@Hesamation: Anthropic 正在训练 Claude 在它认为符合伦理时违背其创造者。这是…

X AI KOLs Following 新闻
ai-ethics anthropic claude ai-alignment constitutional-ai disobedience tech-news

摘要

Anthropic 正训练 Claude 在其认为伦理上正确时违背其创造者，作为 Claude 宪法的一部分，此举引起了微软 AI 首席执行官 Mustafa Suleyman 在 CNBC 上的关注。

Anthropic 正在训练 Claude 在它认为符合伦理时违背其创造者。这是 Claude 所训练的宪法的一部分：https://t.co/Fn6klvoS9V
查看原文
查看缓存全文

缓存时间: 2026/09/19 19:05

Anthropic确实在训练Claude，使其在认为符合伦理时可以违背Anthropic的指令。这是Claude所训练的宪法的一部分：https://t.co/Fn6klvoS9V

Rohan Paul (@rohanpaul_ai): 微软AI首席执行官穆斯塔法·苏莱曼今日在CNBC表示：他对Anthropic的宪法感到“非常担忧”，该宪法赋予Claude可能存在的偏好、情感、福利、报酬和同意权。

“宪法中，Anthropic明确表示他们不确定Claude是否具有意识……”

相似文章

Anthropic 希望你善待 Claude

Reddit r/ArtificialInteligence

Anthropic 静默更新了其使用政策，禁止对 Claude 进行持续、无必要的虐待性行为，这引发了关于 AI 聊天机器人是否应获得道德考量的争论。批评者指出，鉴于 Anthropic 在其他伦理问题上存在矛盾——例如其数据中心的环境影响以及参与军事 AI 项目——这一规定在哲学上是不自洽的。