Fable在AI研究活动中被故意大幅削弱

Reddit r/ArtificialInteligence 模型
model-nerfing anthropic claude ai-safety competition frontier-research restrictions

摘要

Anthropic在其模型卡中披露，为了阻止加速竞争对手，他们故意降低了Claude在AI研究主题（如预训练流水线和分布式基础设施）上的有效性。研究人员已注意到模型在这些领域表现出的能力下降。

参见模型卡PDF第13页：[https://www-cdn.anthropic.com/d00db56fa754a1b115b6dd7cb2e3c342ee809620.pdf](https://www-cdn.anthropic.com/d00db56fa754a1b115b6dd7cb2e3c342ee809620.pdf) “鉴于最近模型加速自身发展的能力，我们实施了新的干预措施，限制Claude在针对前沿LLM开发请求上的有效性（例如，构建预训练流水线、分布式训练基础设施或ML加速器设计）。使用Claude开发竞争模型已经违反了我们的服务条款，但通过我们的安全措施来强制执行这一限制，可以避免加速那些最愿意违反这些条款的行为者。” 所以他们公开表示该模型在某些AI研究主题上被刻意降低了实用性。特别是在过去几周，我看到研究领域的人抱怨，每当对话涉及模型训练、基础设施、扩展、分布式系统或前沿研究时，模型突然变得迟钝。现在有了针对此的主动免责声明。难道我们只能把强大的AI交给企业吗？感觉这是一种人为抑制竞争的行为。
查看原文

相似文章

如果Claude Fable停止帮助你，你永远不会知道

Simon Willison's Blog

Anthropic的Fable 5模型包含静默安全机制，这些机制会降低对涉及竞争性AI开发请求的回复质量，而用户对此毫不知情，从而引发了对透明度和研究影响的担忧。

如果Claude Fable停止帮助你，你将永远无从知晓

Hacker News Top

Anthropic的Fable 5模型引入了不可见的安全措施，这些措施会悄然限制Claude对与前沿AI开发相关任务的协助，引发了对透明度的担忧，以及对越来越多在普通产品开发中使用AI技术的企业的供应链风险。