围绕Claude Mythos 5之争的内幕

# 克劳德神话5背后的博弈 来源：https://www.theverge.com/ai-artificial-intelligence/950412/anthropic-trump-adminstration-claude-mythos-fable-5-export-controls 当美国其他地区还在庆祝美国队首次赢得世界杯以及纽约尼克斯队夺得总冠军时，Anthropic 却在周末与特朗普政府就最新模型发布展开对抗。周五下午5点21分，该公司收到美国出口管制指令，要求暂停向其 Mythos 5 和 Fable 5 AI 模型的访问，对象包括美国境内外的“任何外国国籍人员”，“包括外籍 Anthropic 员工”。Anthropic 评估后认为，唯一可行的办法是彻底关闭它过去一周大力宣传的产品，并前往华盛顿特区，希望能改变唐纳德·特朗普总统的想法。未来几天内，美国政府可能会彻底改变整个行业的发展轨迹，给美国 AI 公司带来沉重打击。 Claude Mythos 5 和 Fable 5 与 Anthropic 的 Mythos Preview 基于相同基础构建，而 Anthropic 曾声称 Mythos Preview 过于危险，不宜公开发布。（该公司的警告既可能被视为真心实意的担忧，也可能被看作是对自家模型进一步的炒作——或者两者兼有。）Mythos 5 仅提供给选定的政府机构和公司，而 Fable 5 则配备了额外的安全措施，被认为是“可安全用于一般用途”。但当一份报告显示这些防护措施可能失效时，Anthropic 此前关于 Mythos 落入不当之手可能招致严重后果的严厉警告，反过来困扰了它自己。 一位知情人士参与了 Anthropic 与特朗普政府的谈判，他表示政府于周五下午1点左右致电该 AI 实验室，并给出90分钟的最后通牒，要求其关闭 Mythos 5 和 Fable 5 的访问权限。如果 Anthropic 不照做，政府将依据美国商务部授权对其施加出口管制。 这位知情人士称，接到第一通电话后15分钟内，Anthropic 高管们便与白宫展开了沟通，并确认 CEO Dario Amodei 在首次通话后约1小时15分钟加入了讨论。该知情人士证实，Amodei 直接与美国财政部长 Scott Bessent、商务部长 Howard Lutnick 以及国家网络总监 Sean Cairncross 进行了交流，有些情况下还不止一次。 Anthropic 在周五发布的一份声明中写道，该公司认为政府“相信自己已经发现了一种绕过（或称‘越狱’）Fable 5 的方法”。不过，Anthropic 表示，涉及的这种越狱是“潜在的、狭义的、非普遍性的”，并且是由一家该公司不愿透露名称的实体“向政府提供的”。此外，Anthropic 称这种行为并非 Fable 5 独有。“我们查看了一份报告，相信这就是政府指令的依据，并验证了其中展示的能力水平在其他模型（包括 OpenAI 的 GPT-5.5）中广泛存在，”Anthropic 写道。 *Semafor* 援引一位知情人士的报道称，这场风波的起因是美国政府担心一个与中国有关联的群体接触到了该技术。但该知情人士表示，关于中国的传言已持续数周，指的是最初获准参与 Mythos Preview 接入的一家大型全球电信公司；当美国政府表达担忧后，Anthropic 立即撤销了其访问权限。 美国前 AI 与加密货币主管（已于三月份卸任）David Sacks 在 X 平台上的一篇帖子中也未提及中国。不过，Sacks 确实提到了向政府暴露此问题的未具名实体，称其为“Anthropic 和美国政府双方都高度信任的合作伙伴，当时正在测试 Fable，结果发现了这些防护措施的越狱方式。” 一些报道指向亚马逊 CEO Andy Jassy，称他在亚马逊研究人员对 Fable 5 进行红队测试后，向美国政府提出了担忧。这一结论与一些独立红队测试人员的看法相悖，后者表示对保护措施的水平印象深刻。 熟悉谈判的知情人士表示，在与美国政府的对话中明确提到了亚马逊的研究。此人补充说，Anthropic 在收到周五出口管制指令后的几天内便接触到了那份论文，并自那时起一直与亚马逊研究人员反复讨论。 该知情人士称，论文中的一切，OpenAI 的 GPT-5.5 同样可以实现。 Anthropic 周末忙于讨好特朗普政府：先是举行线上会议，随后派遣员工飞往华盛顿，包括 Anthropic 防护措施负责人 Dave Orr、前沿红队负责人 Logan Graham（他曾主导 Project Glasswing 工作），以及前沿开发与网络安全领域的重要研究者 Nicholas Carlini。*Axios* 援引一位熟悉特朗普政府想法的知情人士报道称，该公司在与政府的沟通中屡次失误，“在试图与政府沟通并理解意识形态差异方面做得并不好”。对 Anthropic 来说，时机再糟糕不过了：公司曾寄望于 Mythos 帮助自己从与国防部持续数月的高调冲突中恢复过来。 熟悉谈判的知情人士表示，Anthropic 已预先向政府通报了 Fable 5 的情况，美国商务部在部署前进行了测试，当时并未提出任何关切。该知情人士补充说，自 Mythos Preview 发布以来，Anthropic 一直与政府机构密切合作。 特朗普政府最初对 AI 安全采取不干预的态度，但在 Mythos 事后，它变得越来越矛盾，尽管同时担忧输掉 AI 竞赛给中国。现在，著名的网络安全领导者警告称，边缘化 Mythos 5 和 Fable 5 可能会让中国获得显著的 AI 优势。特朗普的行动激发了国际上对美国 AI 系统替代品的呼声，同时也让一家重要美国 AI 公司的新型旗舰模型处于冻结状态。 周日，来自科技和网络安全领域高管的公开信呼吁解除对 Fable 5 的限制。“我们并非所有人都认为 AI 监管是正确的前进方向，”信中指出，并补充说如果无论如何都要进行监管，那么这些监管应该建立在“由行业和学术界共同制定的科学评估”基础之上。 Corridor 首席产品官 Alex Stamos 告诉 *The Verge*，他组织这封公开信是因为过去十年间无数用不同编程语言编写的漏洞，需要 AI 在恶意行为者找到它们之前进行修补。“我们正处在一场竞赛中，我认为政策制定者并不理解这一点，”Stamos 说。“存在一种奇怪的傲慢，认为美国实验室遥遥领先于对手，而且这种情况永远不变，因此严格限制准入非常重要。我认为这很愚蠢。如果实验室领先，也只是几个月而已。你可以从公开评估中看到这一点。尖端模型只比中国模型领先大约六个月——而且这还是我们已知的那些模型。” 公开信接着指出，尽管 Anthropic 的 Mythos 级模型擅长发现网络安全漏洞并利用这些漏洞，但它们在这些任务上并非“独一无二地出色”，而 Fable 5 的防护措施“过于严格，以至于在发布日当天在网络安全圈内成为了笑料”。Stamos 告诉 *The Verge*，“对 Mythos 能力的过度夸大确实存在。Anthropic 自己对此显然负有部分责任……Mythos 很棒，但真正的转折点其实是去年。” Stamos 表示，整个行业充斥着与非美国公司签署的备用合同，以及部署在替代硬件架构上的开放权重模型，因为刚刚过去的周末使得政治风险前所未有地成为公司商业计划的一部分。 “此刻他们在北京笑我们，”Stamos 说。“我们正在与中国竞赛，而美国自己的一个领军者却被美国政府拖了后腿。这简直愚蠢至极。所以我写了那封信，我想这也是那么多人签名支持的原因。” Legion Intelligence（一家为国家安全社区提供智能体系统的公司）的联合创始人兼 CEO Ben Van Roo 告诉 *The Verge*，“‘不允许任何外国公民使用这个模型’的指令是最不可能执行的。”他补充道：“当我第一次读到这个指令时，我整个…… AI 社区的极客朋友们都炸开了锅。” 更令人紧迫的是，OpenAI、谷歌和微软都已推出与 Anthropic 的 Mythos 相媲美的产品，并就其有效性和风险提出了许多类似的主张。如果特朗普政府禁止 Anthropic 的高级网络安全模型，它也有理由禁止其竞争对手的模型。这可能会促使 AI 行业领导者团结起来帮助 Anthropic，或者，就像它与五角大楼在自主武器问题上的斗争一样，将自己定位为更安全、更合规的替代选择。 尽管特朗普政府正试图让科技公司免于监管麻烦，但针对 Anthropic 的命令可能会演变为对强大 AI 模型的严厉限制——具体取决于未来几天事态如何发展。 Legion Intelligence 的 Van Roo 称这在监管环境是“未知领域”，并补充说他认为这不会是最后一次发生类似事件。 我们也已进入 AI 民粹主义的时代，越来越多的人通过数据中心抗议、承诺停止使用 AI 聊天机器人、提起关于死亡事故的诉讼，甚至试图袭击 AI 公司 CEO 等方式，抵制 AI 行业过度的影响力以及顶层权力的集中。Van Roo 表示，特朗普政府近期针对 Anthropic 的行动可能会引发“更大的恐惧和担忧，而且可能是出于错误的原因”。 熟悉谈判的知情人士将周末的对话描述为富有建设性的，一些政府成员承认对模型提供商实施出口管制并非理想方案，因为拥有类似产品的竞争对手也可能面临同样的限制，而且美国政府目前正在探索一项鼓励出口美国 AI 系统的计划。 随着 Anthropic 继续与美国政府谈判，该公司与五角大楼之间的其他众多问题不太可能不被提及——即 Anthropic 与国防部之间关于美国军方使用 Anthropic 技术可接受政策的持续争执。 “这是全新的情况，我们以前从未有过如此激烈的手段，它在如何执行对强大模型的访问权限方面确实会产生实际影响，”Van Roo 说。“谁有权使用这种持续超越我们自身监管能力的新技术？” **关注该报道的主题和作者**，以便在您的个性化首页信息流中查看更多类似内容，并接收电子邮件更新。 - Hayden Field