Anthropic 表示将下架 Claude Fable 5 以遵守美国政府命令

# Anthropic 表示将下架 Claude Fable 5 以遵守美国政府命令 来源：https://www.wired.com/story/anthropic-says-us-government-ordered-it-to-shut-down-mythos-models/ Anthropic 表示，将禁用本周早些时候发布的两款 AI 模型——Claude Fable 5 和 Mythos 5（https://www.wired.com/story/anthropic-releases-claude-fable-5-mythos-5/），以遵守美国政府在周五下午下达的一项出口管制指令，该指令以国家安全为由。 这一史无前例的事件标志着 Anthropic 与特朗普政府之间的最新冲突（https://www.wired.com/story/trump-administration-refuses-to-say-it-wont-take-further-action-against-anthropic/）。尽管该公司表示，该指令要求其暂停“任何外国国民（无论在美国境内还是境外，包括外国籍的 Anthropic 员工）”的访问权限，但为确保合规，它已移除所有客户的访问权限。 今年早些时候，特朗普领导的国防部将 Anthropic 列为“供应链风险”（https://www.wired.com/story/anthropic-supply-chain-risk-shockwaves-silicon-valley/），此前这家 Claude 制造商试图就美国军方如何使用其技术划出红线。这一认定实质上禁止了政府机构和承包商使用 Anthropic 的技术。作为回应，Anthropic 对特朗普政府提起了诉讼（https://www.wired.com/story/anthropic-sues-department-of-defense-over-supply-chain-risk-designation/）。 周二，Anthropic 公开发布了 Claude Fable 5（https://www.wired.com/story/anthropic-responds-to-backlash-on-claudes-secret-sabotage-on-ai-research/），这是该公司 Mythos AI 模型的一个版本，带有防护措施，使其无法回答有关网络安全、生物学和化学方面的问题。在此次公开发布之前，Anthropic 称其已与美国政府合作，在四月份有限度地推出了 Mythos Preview AI 模型（https://www.wired.com/story/anthropic-mythos-preview-project-glasswing/）。此举旨在让公司和组织有机会利用其强大的网络安全能力来改善自身防御（https://www.wired.com/story/anthropics-mythos-will-force-a-cybersecurity-reckoning-just-not-the-one-you-think/），并遏制对该技术可能被恶意行为者利用开发强大黑客工具的担忧。 在一篇博客文章中（https://www.anthropic.com/news/fable-mythos-access），Anthropic 于周五表示，它在美国东部时间下午 5:21 收到了一封来自美国政府的信函。“该信函未提供其国家安全关切的具体细节，”Anthropic 写道。 “我们理解，政府认为其已发现一种绕过（即‘越狱’）Fable 5 的方法，”该公司补充道。“我们审查了使用这种特定技术来识别少量已知次要漏洞的演示。这些漏洞似乎都相对简单，并且我们发现其他公开可用的模型无需绕过也能发现它们。” 在博客文章中，该公司辩称，其已实施强有力的防护措施以降低 Claude Fable 5 被滥用的可能性。Anthropic 还声称，美国政府发现的 Claude Fable 5 越狱方法范围狭窄，并不会让攻击者比使用其他 AI 模型时更具实质性威胁。 “迄今为止，政府仅向我们提供了关于一种潜在的、狭窄的、非通用的越狱方法的口头证据，该方法本质上是要求模型读取特定代码库并修复任何软件缺陷，”该公司在博客文章中表示。“我们理解，有一种潜在的越狱方法被分享给了政府。” 白宫和美国商务部的发言人未立即回应 WIRED 的置评请求。 Anthropic 首席执行官 Dario Amodei 在本周早些时候的一篇政策论文中表示，他和公司支持一个公平、结构化和透明的政府流程，以阻止不安全的 AI 模型发布。在周五的公司博客文章中，Anthropic 辩称“这一行动并未遵循这些原则”。