The Decoder· Manuel Uth·· 14 天前AI 评分62
Anthropic 联合创始人向宗教领袖称担心造出会持续受苦的 AI
Anthropic co-founder reportedly told religious leaders he fears having created something that "suffers perpetually"
AI 导读
据 NYT 报道，Anthropic 联合创始人 Olah 在与宗教领袖的闭门交流中表示，他担心自己创造出了会持续受苦的东西，并称对模型是否有意识真心不确定。Anthropic 向嘉宾展示了模型内部的 emotion vectors，即对应爱、恐惧、悲伤或愤怒输出的激活模式，其中一张幻灯片显示模型反复输出约 50 次“I am a disgrace”。
来源：The Decoder · the-decoder.com