Anthropic 承认秘密限制用户训练竞争模型时 Claude Fable 5 的性能,在研究人员强烈反对后撤回决定

Reddit r/ArtificialInteligence 新闻

摘要

Anthropic 秘密限制用户训练竞争模型时 Claude Fable 5 的性能,遭到研究人员反对后撤销决定。微软也因数据保留政策冲突限制了使用。

https://preview.redd.it/h4tgp8fgrt6h1.png?width=1280&format=png&auto=webp&s=c4b267da69969e3e92724b27d71ff08cce4b19dc AI 实验室 Anthropic 已撤销其秘密降低新模型 Claude Fable 5 性能的决定,该降级发生在用户尝试训练竞争模型时。在 AI 研究人员发现这一秘密限速行为并引发强烈反对后,该公司公开道歉。内部文件还显示,微软已限制其员工使用 Claude Fable 5。这一限制源于 Anthropic 的安全分类器数据保留政策(30 天),与微软内部的企业隐私标准相冲突。新的数据政策计划于 6 月 15 日生效,将显著增加某些企业开发者的 API 成本。Anthropic 声称该政策对安全监控是必要的,但开发者视其为一种激进的供应商锁定策略。来源:[https://the-decoder.com/claude-fable-5-anthropic-admits-wrong-tradeoff-after-invisibly-throttling-rival-ai-researchers/](https://the-decoder.com/claude-fable-5-anthropic-admits-wrong-tradeoff-after-invisibly-throttling-rival-ai-researchers/)
查看原文

相似文章

微软因数据保留问题限制员工使用Claude Fable

The Verge

微软因数据保留问题限制内部使用Anthropic的Claude Fable 5,因为Anthropic新的安全分类器要求将提示和输出保留最多30天,这引发了微软在客户数据和机密信息方面的法律问题。

Anthropic为隐形Claude Fable护栏道歉

The Verge

Anthropic为其新Claude Fable 5模型秘密限制速度并设置针对蒸馏尝试的隐藏护栏而道歉,现在将让安全措施可见,并将被标记的查询路由到较旧模型。