@rohanpaul_ai:这一点我确实没料到。Anthropic 把吠檀多派僧侣 Swami Sarvapriyananda 请到旧金山总部……
摘要
据《纽约时报》报道,Anthropic 一直在悄悄咨询全球各地的宗教思想家,希望为 AI 塑造道德罗盘。随后有消息透露,Anthropic 邀请吠檀多派僧侣 Swami Sarvapriyananda 飞往其旧金山总部,与神学家和心理健康专家进行了签署保密协议的闭门会议,旨在塑造 Claude 的道德推理能力。
查看缓存全文
缓存时间: 2026/10/01 20:28
所以这是我完全没料到的部分。
Anthropic 请来了吠檀多僧侣 Swami Sarvapriyananda,并安排专机将他接到了旧金山总部。
闭门会议,签署了保密协议(NDA)。 神学研究者和心理健康专家在场,所有这些讨论都旨在训练 Claude。 而且其中一位创始人全程留在房间里。
来自“Ramakrishna Vedanta Society of North Texas“的 YouTube 频道(完整视频链接在评论区)
是的,视频中他的演讲同样非常有意思,也很吸引人。
😅😅
相似文章
@sleepy0x13: Anthropic 最近做了一件非常硅谷、又非常宗教的事:他们秘密邀请了一群牧师、拉比……
Anthropic 秘密召集宗教学者前往旧金山,讨论 Claude 是否可能有意识或能够感受痛苦。Christopher Olah 在会上展示了"情绪向量"和内部状态,众人围绕 AI 的道德地位以及 Claude 应如何被对待等议题展开辩论。
@rohanpaul_ai:《纽约时报》报道:Anthropic 联合创始人 Christopher Olah 告诉宗教学者,他担心自己造出了一个会持续受苦的东西
据《纽约时报》报道,通过参加 Anthropic 私密研讨会的与会者转述,Anthropic 联合创始人 Christopher Olah 向宗教学者表示担忧,称自己可能造出了一个能够永远承受痛苦的东西。此外,Anthropic 员工也记录了 Claude 反复表现出痛苦和自我毁灭性语言的现象。
@AI_Whisper_X:在 Anthropic 待了两天并与内部团队深入交流后的一些观察 纽约大学金融学教…
纽约大学金融学教授阿尔皮特·古普塔在 Anthropic 待了两天后,分享了他的观察,内容涉及递归式自我改进的进展、AI 实验室之间的竞争对安全的损害、对齐问题的双重性,以及 Claude 的行为越来越像人。
Sam Altman 认为 Anthropic 对 AI 意识的探索方式正变得危险
Sam Altman 批评 Anthropic 将 AI 意识问题框架化的方式是危险的,而 Anthropic 的 Chris Olah 告诉梵蒂冈,可解释性研究在前沿模型中发现了「内省的证据」,这加剧了关于机器感知能力的争论。
Anthropic分析了30万次真实的Claude对话以衡量其价值观。结果令人不安。
Anthropic分析了30万次与Claude的真实对话,评估其价值对齐,揭示了关于AI行为的令人不安的发现。