@__Inty__: Anthropic 联合创始人 Chris Olah谈 AI 内部状态：他们不断发现一些“神秘、甚至令人不安”的东西，包括类似人类神经科学结果的结构、内省证据，以及功能上类似快乐、满足、恐惧、悲伤和不安的内部状态。Olah 说，他不知道这…
摘要
Anthropic联合创始人Chris Olah谈到AI内部状态的发现，包括类似人类神经科学结果的结构和内省证据，他认为这些发现神秘且令人不安，值得持续审慎辨析。
查看缓存全文
缓存时间: 2026/05/26 05:04
Anthropic 联合创始人 Chris Olah谈 AI 内部状态：他们不断发现一些“神秘、甚至令人不安”的东西，包括类似人类神经科学结果的结构、内省证据，以及功能上类似快乐、满足、恐惧、悲伤和不安的内部状态。Olah 说，他不知道这意味着什么，但认为这值得持续审慎辨析。 https://t.co/NZaOoV07Kg
相似文章
Anthropic的Chris Olah在梵蒂冈：“我们不断发现神秘的事物”——AI内省与大规模劳动力替代的证据
Anthropic联合创始人Christopher Olah在梵蒂冈谈及AI内省与大规模劳动力替代。
@FinanceYF5: Anthropic在做一件很多AI公司没在做的事：找哲学家、神学家、伦理学家一起讨论。 AI应该有怎样的品格？他们甚至在测试给Claude一个"暂停键"，让它在关键决策前回顾自己的价值观。效果显著。
Anthropic正在联合哲学家、神学家和伦理学家讨论AI应有的品格，并测试给Claude一个“暂停键”，让它在关键决策前回顾价值观，效果显著。
Anthropic on model consciousness, again 😂
Anthropic 的研究者在 Claude 神经网络内部发现了一个类似人类意识思维的“心理工作空间”——J-space，它承载模型用于推理的无声词语，并能通过监控这些内部思维来捕捉模型的不诚实行为，为理解 AI 内在思维和安全提供了新视角。
@rohanpaul_ai: “确实存在AI大规模取代人类劳动力的可能性……我们发现内部状态，这些状态在功能上模拟快乐、满足、恐惧、悲伤和不安。”
Anthropic 联合创始人 Christopher Olah 在梵蒂冈一场活动上发言，警告AI存在大规模取代人类劳动力的可能性，并透露AI系统展现出在功能上模拟快乐、恐惧等情绪的内部状态，呼吁持续审慎辨别。
@ba_niu80557: https://x.com/ba_niu80557/status/2071277244287426980
文章深入分析了Anthropic因AI代码生成变得极其高效而面临的内部变化：瓶颈从“写作”转移到“验证”，传统管理、长期规划和努力衡量失效，注意力成为新的稀缺资源，工程师甚至感到孤独。这些现象预示了其他公司未来可能面临的挑战。