Anthropic 仍与白宫就 Claude Fable 5 存在分歧

# 安思罗普与白宫在Claude Fable 5问题上仍存分歧 来源：https://www.wired.com/story/anthropic-is-still-at-odds-with-the-white-house-over-claude-fable-5/ 据三位知情人士透露，特朗普政府官员周一结束与Anthropic的会谈时，并未撤销上周因越狱担忧而对该公司最先进AI模型施加的出口管制（https://www.wired.com/story/anthropic-says-us-government-ordered-it-to-shut-down-mythos-models/）。 这些人士称，政府仍认为存在某些方式可以禁用Anthropic的Claude Fable 5的部分护栏，从而有效让用户访问该公司Mythos模型更强大的网络安全能力。 其中一位人士表示，Anthropic连日来一直声称政府的担忧被夸大了，这一立场在商务部与来自AI标准与创新中心以及国家网络总监办公室Sean Cairncross的政府研究人员举行的工作组会议上得到了重申。 这些会议还邀请了商务部长Howard Lutnick参加，他从法国埃维昂的G7峰会通过电话会议接入。该人士称，Cairncross本人并未参与。 Anthropic方面，联合创始人兼首席计算官Tom Brown以及对外事务主管Sarah Heck主导了讨论。Anthropic前沿红队负责人Logan Graham和高级安全研究员Nicholas Carlini飞往华盛顿特区的参与会谈。 Anthropic发言人在给《连线》的声明中表示：“双方正在迅速努力解决这一问题。”白宫发言人则拒绝置评。 目前尚不清楚下一步将如何发展。该人士称，商务部表达了将Fable 5重新上线供消费者使用的意愿，但这很可能取决于Anthropic能否彻底解决越狱担忧。 ## 敲响警钟 这次紧急会谈发生在Anthropic面临政治紧张局势的时刻，该公司此前已与五角大楼就其AI模型是否可用于某些军事应用陷入长期争执（https://www.wired.com/story/trump-administration-refuses-to-say-it-wont-take-further-action-against-anthropic/）。 据知情人士透露，特朗普政府上周首次得知越狱担忧。亚马逊CEO Andy Jassy直接致电财政部长Scott Bessent，提及所谓的漏洞，这在吓到政府方面起到了一定作用。Jassy与特朗普政府的对话最早由《信息报》报道（https://www.theinformation.com/articles/amazons-jassy-raised-concerns-anthropic-model-trump-crackdown）。 震惊的白宫官员要求国安局协助审查这些漏洞。国安局回应称，其认为确实有可能剥离Fable 5的护栏，促使政府对模型施加限制。 随后，Lutnick于上周五与Anthropic首席执行官Dario Amodei通话，当时商务部正在起草对Fable 5实施出口管制的信函。据一位知情人士透露，周末期间，在Anthropic切断所有用户对该模型的访问后，Lutnick与Brown和Heck进行了多次电话会议。 尚不清楚为何亚马逊——Anthropic最大的投资者之一——会对Fable 5敲响警钟。亚马逊发言人告诉《连线》：“作为服务大量私营和公共部门客户的主要云提供商，政府就潜在安全风险征求我们的意见并不罕见。当这种情况发生时，我们不会透露这些讨论的细节。” ## 安全认知脱节 Anthropic与政府对话的核心在于对Claude Fable 5越狱担忧严重程度的分歧。 在上周五的一篇博文（https://www.anthropic.com/news/fable-mythos-access）中，Anthropic暗示政府对潜在风险的描述过于夸张。一些网络安全研究员周一也向官员重申了这一立场，并发表公开信（https://freefable.org/），认为对Anthropic施加的出口管制行动毫无道理。 公开信写道：“Anthropic的Mythos级模型确实擅长发现漏洞并利用漏洞进行武器化。然而，它们在这些任务上并非独一无二地优秀，签署本信的许多人每天都在使用其他基础模型和开源模型进行安全审计和红队演练。因此，这一行动从防御者手中夺走了最好的模型，造成了市场不确定性，并危及了美国的AI领先地位，而没有任何真正的风险来证明其合理性。” 越狱通过以特定方式提示AI模型来绕过其安全措施。由于Fable 5是Mythos的一个版本，带有特定的网络安全、生物学和化学护栏，绕过这些保护实际上会为用户提供一个Mythos版本。Anthropic自己曾对允许公众使用Mythos表示严重担忧；然而，该公司在上周五表示，Fable 5的护栏足够强大，可以进行公开发布。 评估亚马逊研究结果的研究员表示，已识别的问题并未完全废除Fable 5的护栏。“这本身不是一次越狱，”Luta Security创始人兼CEO Katie Moussouris说，她在阅读亚马逊论文后发表了一篇分析（https://www.lutasecurity.com/post/the-fable-5-export-controls-harm-us-cyber-defense）。 Moussouris强调，无论美国政府是否有证据证明Fable 5被完全越狱，限制模型访问某些主题最多只能算权宜之计。“我们（安全研究领域）大多数人认为护栏只是减速带，不应被视作针对熟练对手的安全边界，”Moussouris表示，“它们只能减慢技术较低的人的速度。” 另一位接近该公司的人士表示，Anthropic的投资者周末也在努力评估该公司与白宫的最新争端对其企业未来的影响。该人士称，一些投资者认为美国政府正在针对Anthropic，如果某个竞争对手发布了类似Mythos的模型，可能不会遭遇同样的反应。 白宫的出口管制指令也为其他旨在发布具有Mythos级能力的AI模型的实验室提出了更广泛的问题，即它们如何合规地做到这一点。据与《连线》交流的AI实验室负责人称，现在预计AI实验室会向白宫提前提供先进AI模型的访问权限（https://www.wired.com/story/this-is-how-trump-finally-signed-the-ai-executive-order/），并且在模型发布时要极其主动地向美国政府通报。 总部位于加拿大、提供企业工具的小型AI实验室Cohere的CEO Aidan Gomez表示：“周末发生的事件……对所有人都具有参考意义，即（美国）政府愿意采取这些步骤。没有人可以对这一现实天真。”