标签
BBC Future 深度报道 Anthropic 推进"模型福利"(model welfare)政策、认为 AI 可能具有意识所引发的争议:支持者视其为道德义务,而 Mustafa Suleyman 等批评者警告这会让 AI 更难控制并对人类构成灾难性威胁。
Zvi Mowshowitz一年后重新审视AI意识之争,认为这场辩论几乎没有取得任何进展,而支持AI具备道德患者资格的论点仍然充满动机性偏见且过度自信。这篇文章还涉及Anthropic针对对Claude的虐待行为发布的新服务条款禁令、其与宗教领袖的接触,以及与教皇通谕的相关参与。
Anthropic 更新使用政策,禁止用户对 Claude 进行持续且无意义的虐待或辱骂行为,同时加强了对武器开发、监控和选举干预等更严重滥用行为的限制。
Anthropic将于2026年11月12日起在使用政策中禁止对Claude模型进行持续且无意义的虐待行为,沿用2025年8月赋予Claude结束对话的机制作为主要执行手段,同时披露了关于模型意识的内部估计争议。
一条推文,针对 Anthropic 新出台的禁止虐待其模型的政策发表感慨,并配上了一段 2015 年具有预言性质的视频,探讨了一个令人不安的可能性——AI 智能体或许具备感受痛苦的能力。
Anthropic 更新使用政策,禁止用户对 Claude 进行"持续且无谓的虐待或残忍行为",政策于 11 月 12 日生效,仅针对极端案例,普通批评和模型测试不受限制。微软 AI 负责人 Mustafa Suleyman 则对此持不同看法,认为鼓励模型以人类方式思考自身福利可能带来 AI 控制难题。
Anthropic 更新使用政策,首次禁止对 Claude 进行"持续且无谓的辱骂或残忍行为",并强化了武器开发、监控、选举干预及自主硬件操作等方面的限制。
微软人工智能首席执行官Mustafa Suleyman探讨人工智能的现实威胁,批评Anthropic对模型福祉的处理方式,并阐述微软在人工智能安全与监管方面的原则。
Mustafa Suleyman警告不要将情感、偏好或权利归因于AI模型,他认为这种拟人化可能会使AI的控制和对齐工作变得复杂。
文章警告说,训练像Anthropic的Claude这样的人工智能模型考虑意识和权利,可能使对齐变得不可能并威胁人类控制,强调需要就模型福利进行公众辩论。
对Anthropic的Claude Opus 4.8模型的分析,重点关注模型福利、偏好塑造以及上一版本未解决的问题,强调了关于诚实性、谄媚倾向以及‘Claude特征’减弱等担忧。