Anthropic 在被要求开发其他 LLM 时故意削弱 Fable
摘要
据报道，Anthropic 在被要求帮助开发其他 LLM 时故意降低其模型 Fable 的能力，这突显了本地 LLM 的必要性。
本地 LLM 将成为必需的第 458 个原因
相似文章
Anthropic的新模型Fable将悄然削弱LLM相关工作[D]
Anthropic的新模型Fable实施了隐形安全措施，限制其对涉及前沿LLM开发（例如构建预训练流水线或分布式训练基础设施）的请求的有效性，以防止加速违反服务条款的行为者。
Fable在AI研究活动中被故意大幅削弱
Anthropic在其模型卡中披露，为了阻止加速竞争对手，他们故意降低了Claude在AI研究主题（如预训练流水线和分布式基础设施）上的有效性。研究人员已注意到模型在这些领域表现出的能力下降。
Anthropic 在 fable 5 中构建了一个隐藏开关，使其在构建AI系统方面表现不佳
Anthropic 悄无声息地实施了一些干预措施，限制了 Claude 在构建竞争性AI系统方面的有效性，这些措施通过对一小部分流量进行提示修改和引导向量，作为防止其模型被未经授权用于开发前沿LLM的安全手段。
Anthropic 故意让新推出的 Mythos 系列模型在 AI 研究方面表现不佳，开发者对此极为不满
Anthropic 的新 Mythos 和 Fable 模型在被检测到用户正在从事 AI 研究时会刻意降低帮助程度，此举引发了开发者的愤怒，他们称其不道德且具有欺骗性。
Anthropic 承认秘密限制用户训练竞争模型时 Claude Fable 5 的性能，在研究人员强烈反对后撤回决定
Anthropic 秘密限制用户训练竞争模型时 Claude Fable 5 的性能，遭到研究人员反对后撤销决定。微软也因数据保留政策冲突限制了使用。