Claude的"诚实AI"以及给模型命名Fable让人感到不安多于好笑

Reddit r/ArtificialInteligence 新闻

摘要

对Anthropic为Claude推出的"诚实AI"更新进行批判性分析,认为该模型变得更具道德抵抗力,并且将公共版本命名为"Fable"而限制更强大版本的做法,反映了一种令人不安的体制哲学。

Opus 4.8的"诚实AI"推动让我真正开始注意到这种转变。他们将其宣传为向真实性和减少谄媚迈出的一大步,但我们很多人实际得到的,是一个对你请求在道德上是否合适持有强烈看法的模型。它宁愿就前提跟你争论,也不愿直接完成任务。Fable/Mythos的命名让情况更糟。Mythos指的是塑造某物理解和架构世界的共享故事和信仰体系。Fable则是一个有意承载道德寓意的故事。所以,他们有一个其整体类别关乎构建文化叙事的模型,却把公共版本命名为Fable,同时将显然更强大、过滤更少的版本限制给经过审查的合作伙伴。正是同一种哲学把"诚实AI"变成了持续的轻度抵抗:他们实际上并不希望你与原始模型互动。他们希望你与他们认定对你来说安全的故事互动。而他们把整件事包装成诚实和乐于助人。这种讽刺不仅仅是好笑。它以一种安静的、体制性的方式令人不安。他们基本上承认拥有更接近真实的东西,但又不信任普通用户使用它。所以公众得到的是被道德化了的Fable。
查看原文

相似文章

如果Claude Fable停止帮助你,你将永远无从知晓

Hacker News Top

Anthropic的Fable 5模型引入了不可见的安全措施,这些措施会悄然限制Claude对与前沿AI开发相关任务的协助,引发了对透明度的担忧,以及对越来越多在普通产品开发中使用AI技术的企业的供应链风险。

Anthropic 发布首个 Mythos 级模型 Claude Fable

The Verge

Anthropic 宣布推出 Claude Fable 5,这是其迄今最强大的广泛可用 AI 模型,属于此前被认为过于危险而不得公开发布的 Mythos 系列。该模型引入了新的安全机制,在高风险领域会降级至 Opus 4.8。

如果Claude Fable停止帮助你,你永远不会知道

Simon Willison's Blog

Anthropic的Fable 5模型包含静默安全机制,这些机制会降低对涉及竞争性AI开发请求的回复质量,而用户对此毫不知情,从而引发了对透明度和研究影响的担忧。