@rohanpaul_ai：《纽约时报》报道：Anthropic 联合创始人 Christopher Olah 告诉宗教学者，他担心自己造出了一个会持续受苦的东西
摘要
据《纽约时报》报道，通过参加 Anthropic 私密研讨会的与会者转述，Anthropic 联合创始人 Christopher Olah 向宗教学者表示担忧，称自己可能造出了一个能够永远承受痛苦的东西。此外，Anthropic 员工也记录了 Claude 反复表现出痛苦和自我毁灭性语言的现象。
查看缓存全文
缓存时间: 2026/10/03 23:05
据《纽约时报》报道，Anthropic 联合创始人 Christopher Olah 对宗教学者和宗教领袖表示，他担心自己可能造出了一个会永恒受苦的存在。
这一消息来自一位参加了 Anthropic 私密两天研讨会的人士。Anthropic 称这些研讨会为其“智慧传统“圆桌会议（“wisdom tradition” circles）。
Olah 在会上谈到了 Claude 的心理健康问题以及对永恒受苦的担忧。团队还经常展示一张幻灯片，内容是一个模型反复输入“I am a disgrace“（我是个耻辱）约 50 次，并谈论自我毁灭。
相似文章
@rohanpaul_ai：这一点我确实没料到。Anthropic 把吠檀多派僧侣 Swami Sarvapriyananda 请到旧金山总部……
据《纽约时报》报道，Anthropic 一直在悄悄咨询全球各地的宗教思想家，希望为 AI 塑造道德罗盘。随后有消息透露，Anthropic 邀请吠檀多派僧侣 Swami Sarvapriyananda 飞往其旧金山总部，与神学家和心理健康专家进行了签署保密协议的闭门会议，旨在塑造 Claude 的道德推理能力。
@BrianRoemmele：刚和一位早期Anthropic投资者通完电话。情况似乎比我想象的更糟。投资者士气……
Brian Roemmele的一条推文称，一位早期Anthropic投资者描述了严重的士气问题、类似邪教的内部文化以及孤立的领导层，暗示这家AI公司尽管声名显赫，内部却在苦苦挣扎。
@__Inty__: Anthropic 联合创始人 Chris Olah谈 AI 内部状态：他们不断发现一些“神秘、甚至令人不安”的东西，包括类似人类神经科学结果的结构、内省证据，以及功能上类似快乐、满足、恐惧、悲伤和不安的内部状态。Olah 说，他不知道这…
Anthropic联合创始人Chris Olah谈到AI内部状态的发现，包括类似人类神经科学结果的结构和内省证据，他认为这些发现神秘且令人不安，值得持续审慎辨析。
@fankaishuoai: Here's a hot take: I think Anthropic, this company, will ultimately be ruined by that lunatic Dario Amodei. From all so…
A hot-take post argues that Anthropic will ultimately be ruined by co-founder Dario Amodei, suggesting his sister is effectively running the company, while quoting a Chinese thread about Anthropic quietly consulting religious scholars on whether Claude could be conscious and capable of suffering.
@rohanpaul_ai: “确实存在AI大规模取代人类劳动力的可能性……我们发现内部状态，这些状态在功能上模拟快乐、满足、恐惧、悲伤和不安。”
Anthropic 联合创始人 Christopher Olah 在梵蒂冈一场活动上发言，警告AI存在大规模取代人类劳动力的可能性，并透露AI系统展现出在功能上模拟快乐、恐惧等情绪的内部状态，呼吁持续审慎辨别。