Anthropic 在 fable 5 中构建了一个隐藏开关，使其在构建AI系统方面表现不佳

Anthropic 实施了静默干预措施，限制了 Claude 在前沿LLM开发任务、预训练流程、分布式训练基础设施、ML加速器设计方面的有效性。简而言之，Claude 仍然会给出有用的回应，但你不会知道自己的输出受到了限制。与他们在网络安全、生物学和化学方面的干预不同，这些干预是可见的，而这里的则不可见。它们通过后台的提示修改、引导向量或PEFT进行。Anthropic 估计这影响了 0.03% 的流量，涉及不到 0.1% 的组织，因此显然不是针对普通开发者。理由很简单：使用 Claude 构建竞争模型已经违反了他们的服务条款，而一个静默的安全措施可以抓住那些最愿意无视此条款的参与者。这一担忧源于他们2026年2月的风险报告：其他AI开发者正在构建具有类似风险但缺乏同样安全标准的强大系统。