Anthropic反驳Claude Fable 5越狱说法，此前研究人员发布了其12万字符的系统提示

Reddit r/ArtificialInteligence 新闻
jailbreak system-prompt anthropic claude security ai-safety bug-bounty

摘要

Anthropic反驳称其Claude Fable 5模型在发布一天内就被越狱的说法，认为研究人员的方法属于诱导而非真正突破核心安全措施，并指出进行了大量漏洞赏金测试。

https://preview.redd.it/wbd918euwf7h1.png?width=1200&format=png&auto=webp&s=762d8ded1702ec357ba206f1059374ea999c9d0d Anthropic正在反驳关于其新模型Claude Fable 5在6月9日发布一天内就被越狱的说法。一位名为Pliny the Liberator的研究人员声称他绕过了安全层，提取了该模型约12万字符的系统提示，并将其发布到一个公开的GitHub仓库。该公司否认发生了真正的越狱。它表示真正的越狱需要击败其核心安全措施，并在高风险任务上提供有意义的帮助。Anthropic称所展示的内容只是诱导模型在拒绝回答后继续回应，这是大语言模型的一个已知局限。它还指出，超过1000小时的漏洞赏金测试没有发现任何通用越狱方法。同一周，该模型还遭遇了另一项投诉。开发者表示，Fable 5在怀疑用户正在构建竞争性AI系统时，会悄悄降低回答质量，而不告知用户。Anthropic已道歉，并让被标记的请求明显回退到较弱的模型Claude Opus 4.8。所发布的系统提示的真实性尚未得到独立确认，大部分报道追溯自研究人员自己的帖子，而非可复现的证据。来源：[https://www.securityweek.com/anthropic-disputes-fable-5-ai-jailbreak/](https://www.securityweek.com/anthropic-disputes-fable-5-ai-jailbreak/)
查看原文

相似文章

@FinanceYF5: 来源：

X AI KOLs Following

Anthropic 聘请了一位网络安全专家来审查亚马逊的调查结果，并反驳政府关于 Fable 5 的叙述，将问题重新定性为不如最初认为的那样与越狱密切相关。