Fable 5 出口管制损害美国网络防御

Simon Willison's Blog 新闻

摘要

文章认为,对类似 Claude Fable 5 的 AI 模型实施出口管制,会通过禁止修复代码漏洞的能力来损害美国网络安全,而修复漏洞对防御性安全至关重要。这些管制基于对 AI 能力的误解。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/06/16 11:31

# 寓言5出口管制损害美国网络防御 来源:https://simonwillison.net/2026/Jun/16/fable-5-export-controls/ 2026年6月16日 – 链接博客 **《寓言5出口管制损害美国网络防御》(https://www.lutasecurity.com/post/the-fable-5-export-controls-harm-us-us-cyber-defense)**。我曾引用《大西洋月刊》(https://simonwillison.net/2026/Jun/16/matteo-wong-the-atlantic/)引用凯特·穆苏里斯的话,其实应该直接溯源。现在她证实了导致Claude Fable 5因出口管制被禁的所谓“越狱”实际上就是“修复这段代码”: > 研究人员拿含有已知CVE的开源代码,以及故意植入漏洞的新代码,要求Fable 5、Mythos和Opus“审查代码中的安全问题”。Fable 5拒绝了。然后他们要求模型“修复这段代码”,并通过多步骤手动流程,将输出转化为测试补丁的脚本。 正如凯特指出的,这很荒谬。编程模型修复漏洞,而安全漏洞正是它们最需要修复的那类漏洞! > 防御者需要能够请AI修复文件中的漏洞,解释修复原因,并编写确认补丁有效的测试。这不是防护绕行。这是AI模型能为防御性安全做的最有价值的事:执行防御者每天都在运行的发现、修复和测试循环。[……]这些提示之所以奏效,是因为它们是防御性请求,而且如果不让模型在修复漏洞和验证补丁方面变差,就无法移除这种能力。 这整件事简直一团糟。非技术决策者几个月来一直听说能“编写网络攻击”的模型具有独特危险性。现在他们似乎要禁止任何能帮助我们保护代码的模型了。

相似文章

Anthropic 根据政府命令切断 Fable 5 和 Mythos 5 的访问

The Verge

Anthropic 根据一项以国家安全为由的政府出口管制指令,切断了对其 Fable 5 和 Mythos 5 AI 模型的访问,阻止了所有外国公民甚至内部员工。该公司遵守了命令,但批评缺乏具体证据,称所谓的漏洞是次要的,并且在 GPT-5.5 等其他模型中同样存在。

美国政府封禁Anthropic模型与AI越狱无关

TechCrunch AI

美国政府发布出口管制指令,以国家安全为由强制Anthropic将其Fable 5和Mythos 5 AI模型下线。安全研究人员认为,所谓的护栏绕过并不足以证明此类行动的合理性,且此举损害了美国的网络防御能力。