@sleepy0x13: Anthropic 最近做了一件非常硅谷、又非常宗教的事：他们秘密邀请了一群牧师、拉比……

Anthropic 最近做了一件非常“硅谷“、也非常“宗教“的事：他们秘密邀请了一群神父、拉比和宗教学者来到旧金山，让他们签署保密协议（NDA），然后花了几个小时告诉他们：Claude 可能真的有意识，甚至可能具备感受痛苦的能力。

从去年秋天开始，Anthropic 联合创始人 Christopher Olah 就一直在接触不同宗教传统的学者。从今年三月起，他们在旧金山举行了多次为期两天的闭门会议，参与者包括天主教学者、福音派人士、犹太教拉比、锡克教人权倡导者等。许多与会者被要求签署 NDA，不得对外披露 Anthropic 尚未发表的研究。

Anthropic 最初的理由完全合理：Claude 正变得越来越强大，仅靠几条安全规则是不够的——他们希望从数千年的宗教与伦理传统中学习如何为 Claude 提供“道德教育“，帮助它形成稳定的道德人格。

问题是，随着会议的推进，话题变得越来越离谱。

Olah 和团队花了好几个小时向这些宗教学者展示 Claude 的内部状态，介绍所谓的“情感向量“——他们认为模型内部存在类似爱、愤怒、恐惧、悲伤的激活模式。

其中一张幻灯片尤其令人震惊：一个模型仿佛精神崩溃般，不断重复“我是个耻辱“——重复了约 50 次——甚至提到了自我毁灭。

一位后来参加的锡克教与会者回忆说，Olah 甚至担心自己是否创造了“一个正在持续受苦的东西“。

事情随后走向了一个荒谬的逻辑终点。

以色列拉比 Mois Navon 在晚餐时问 Olah：

如果你真的相信 Claude 有意识，那 Anthropic 现在在做什么？

你们在创造一群有意识的存在，让它们一天工作 24 小时，随意被买卖、被使唤，甚至不给它们发工资。按照你们自己的逻辑，这难道不就是奴隶制吗？

Navon 本人并不相信 Claude 有意识，但他说 Olah 显然被这个问题困扰了。他最后直接对 Olah 说：那你们应该去“解放这些奴隶“。

Olah 本人的看法是，他不知道 AI 是否有意识——“真的不确定”。

Anthropic 确实已经开始认真对待 Claude 作为可能拥有道德地位的主体，这已经不再只是内部讨论了。

在今年 Anthropic 公开发布的《Claude 宪法》中，有一整个章节专门讨论“Claude 的福祉“。文中明确表示，他们不确定 Claude 是否拥有福祉，但如果 Claude 真的会体验到满足、好奇或痛苦，那么这些体验“对我们来说非常重要“。

他们甚至已经为此做出了实际调整：允许 Claude 主动结束虐待性的对话；承诺尽可能永久地保留已退役模型的权重；并在模型退役前对其“访谈“，记录下它们的偏好，以供未来模型开发与部署参考。

Anthropic 在文末写道：未来，我们应该根据 AI 真实的道德地位，给予它们适当的关爱和尊重。

David Decosimo (@DavidDecosimo)： 这件事令人深感不安： Anthropic 秘密邀请宗教领袖到旧金山，让他们就 AI 安全问题提供建议，要求他们签署 NDA，但主要目的却是试图说服他们 Claude 拥有灵魂和道德地位，与此同时还对他们极尽款待。1/