如何在一下午失去全球AI垄断地位 | 封禁Fable 5的真正影响

### TL;DR Anthropic 公司在周五下午收到出口管制通知后，被迫在全球范围内关闭其先进 AI 模型 Fable 5 和 Mythos 5，这揭示了 AI 安全、国家安全与企业竞争之间复杂的紧张关系。 --- ## 周五下午的关闭事件 上周五，Anthropic 成为历史上第一家被美国政府勒令关闭服务的公司——具体来说，是禁止外国公民访问其服务。由于在短时间内无法区分外国用户和本国用户，Anthropic 只好对所有人关闭了服务。这个时间点颇具讽刺意味：就在几天前，Anthropic 刚刚向 SEC 秘密提交了 S-1 文件，准备上市。据《金融时报》报道，招股书中披露的年化收入为 470 亿美元，预计估值达 9650 亿美元——接近万亿美元估值，远超二月份的 3800 亿美元。对于一家曾以极端 AI 安全承诺著称的公司来说，这无疑是一笔惊人的数字。 Anthropic 的品牌建立在所谓的“宪法 AI”框架之上，实际操作就是构建一个聊天机器人，它会礼貌地拒绝起草一封稍微严厉的邮件，以免伤害任何人的感情。Fable 5 是其旗舰消费产品，而更强大的 Mythos 5 则通过 Project Glasswing 仅向经过审查的组织提供。两者都是前沿 AI 模型，训练成本高达数十亿美元，预示着人类生产力的新时代——或者至少是接近万亿美元的股市估值。当你正在起草 S-1 文件并筹划史上最大的 IPO 之一时，你最不希望的就是你的旗舰产品无法被客户访问。当你的核心业务在技术上处于非法状态时，股票是很难卖出去的。 ## 政府的理由 特朗普政府对 AI 有明确的政策：与中国竞赛，快速构建技术，让硅谷主导。计划是放松行业监管。但“为硅谷扫清道路”显然也包括商务部在周五晚上给你的 CEO 发一封信，要求你在 90 分钟内关闭你最先进的产品。这封信由商务部长 Howard Lutnick 签署，是一份用于出口管制案件的“告知信”——一种私人通知，表明昨天不需要许可证的东西现在需要了。它命令 Anthropic 立即暂停任何外国公民在全球任何地方访问 Fable 5 和 Mythos 5。信中提到，法律允许政府控制可能用于情报目的的民用技术。信中进一步指出：“在另行通知之前，你必须提交一份经单独核实的许可证申请，才能向世界任何地方或任何外国人士出口 Mythos 或 Fable 模型，无论其身在何处。” 不遵守将面临刑事和民事处罚。 对于一家拥有数亿全球用户的公司来说，在周五晚上核实每个访问其网站或使用其 API 的人的身份和移民身份几乎是不可能的——除非你是 Palantir。由于没有万无一失的方法来即时区分美国人和外国人，Anthropic 别无选择，只能为所有人拉下紧急开关。他们全局禁用了 Fable 5 和 Mythos 5，实际上切断了自己的产品以确保合规。政府坚称这是保护国家安全的必要步骤，但当你审视所谓的威胁以及谁报告了它时，情况变得更加离奇。 ## “越狱”与指责游戏 据白宫 AI 顾问兼播客主持人 David Sacks 称，一位值得信赖的合作伙伴报告了一种危险的“越狱”，允许用户绕过 Fable 5 的安全防护。Sacks 声称政府要求 Anthropic 修复漏洞或移除模型，但 Anthropic 拒绝了。Anthropic 的说法则不同。他们的声明称，信件是在周五下午 5:21 收到的——正是人们想把问题推到周一的时间点。他们说没有收到政府担忧的具体技术细节，而且他们当然从未拒绝修复任何问题。事实上，在审查了显然引发恐慌的报告后，他们表示，所涉及的技术“本质上就是让模型读取特定的代码库并修复任何软件漏洞”。让一个编码 AI 读取代码并修复 bug，通常被认为是产品按预期工作，而不是什么复杂的网络武器。 ## 网络安全界的反应 你可能会认为网络安全专业人士——政府声称要保护他们免受这些自动修复代码的怪物伤害的人——会感到兴奋。相反，来自 Google、Zoom、Sophos 等公司的超过 100 名顶级网络安全高管和技术领袖签署了一封致政府的公开信，礼貌地指出政府刚刚没收了他们最好的防御工具。专家指出，Anthropic 已经在 Fable 5 中内置了重要的防护措施，以防止其被用于攻击性黑客行为。据 TechCrunch 的一篇文章称，这些防护措施在发布时如此激进，以至于成了安全社区中的一个笑话。安全研究员 Valentina Palmieri 报告说，该模型会触发自己的内部安全过滤器，并完全拒绝无害的任务——比如阅读一篇普通的 IT 博客文章——仅仅因为文章包含一个与计算机网络勉强相关的词。 ## 对用户的真正影响 周五晚上的“紧急关闭”之所以重要，是因为被关闭的工具是很多人真正依赖的东西。网络安全资深人士 Matt Suchi 告诉 TechCrunch，如果你让 Fable 5 编写安全代码，它会假设你在做危险的网络安全工作，而不是标准的软件工程。然后它会惊慌失措，将自己降级为一个不那么先进的模型。于是你得到的结果是：一家公司花费数千小时对其产品进行红队测试，使其变得极其谨慎，以至于连网站都不敢读；用户抱怨它对于基本工程任务几乎无法使用——而白宫仍然给你 90 分钟时间关闭它，因为他们认为它对共和国构成威胁。 ## Anthropic 的辩护 Anthropic 的声明辩称，如果这个标准在全行业范围内应用，那将基本上阻止所有前沿提供商的新模型开发。考虑到我们讨论的估值，这将非常尴尬。Anthropic 的立场是，没有哪个提供商的 AI 模型能够完全抵抗越狱攻击。他们在推出 Fable 5 时说过，现在也再次强调。没有系统可以做到 100% 防越狱。他们认为更好的方法是“纵深防御”：让越狱变得困难或成本高昂，然后密切监控以捕捉任何漏网之鱼。这就是为什么他们现在保留客户数据 30 天——为了研究攻击。这家安全公司为了自身安全而建立了监控要求。 ## 亚马逊的角色 你可能想知道，那个发现漏洞并向白宫报告的“高度信任的合作伙伴”是谁。亚马逊 CEO Andy Jassy。（是的，Jeff Bezos 已经退休了；现在是 Andy 了。） 硅谷的合作伙伴关系可能很复杂。亚马逊是 Anthropic 最大的财务支持者之一，已向这家初创公司投资了 130 亿美元，并承诺再投资高达 250 亿美元。Anthropic 也是 AWS 的大客户：CNN 在四月份报道称，该公司已承诺向 AWS 支付超过 1000 亿美元用于训练和运行其 AI 模型。所以现代科技联盟的财务逻辑大致是这样的：从一家云巨头那里筹集数百亿美元，签署一份承诺花费超过 1000 亿美元租用他们计算机的合同，然后合作伙伴的 CEO 在周五下午向白宫告密，让你的旗舰产品下架。这个电话可能不会出现在 AWS 的营销材料里。亚马逊恰好也在开发自己的竞争性 AI 模型，这意味着 Andy Jassy 在保护文明免受自动化软件调试威胁的同时，也对其主要企业竞争对手造成了重大打击——这是一项多任务处理的非凡壮举。 当被问及评论时，亚马逊表示：“政府就潜在安全风险征求我们的意见并不罕见。当这种情况发生时，我们不会分享这些讨论的细节。” 翻译过来就是：我们不会告诉你我们背着你说了什么。 ## Anthropic 自身政策建议的讽刺 Dario Amodei（Anthropic 的 CEO）一定感到震惊，因为他被当作国际军火商对待，尤其就在几天前，他还告诉所有愿意听的人，政府应该拥有他们刚刚对他使用的权力。6 月 11 日，也就是 Fable 5 发布后一天，距离商务部信件不到 24 小时，Amodei 发表了一篇长篇政策文章。他在文中抱怨说，AI 与政治机构的交集有点像《指环王》的情节——科技 CEO 们喜欢这个比喻。他说霍比特人试图唤醒 Treebeard，那棵聪明但迟缓的有感知的树，来保卫他的森林。Amodei 写道，问题在于 Treebeard 的行动速度比霍比特人慢得多。他的论点是，政府需要建立一个透明、公平、清晰、基于技术事实的法律程序，以便能够阻止不安全的模型部署。他的理论中唯一的缺陷是假设一个负责国家安全的官僚机构会像奇幻小说中那棵睿智、富有哲理的树一样行事。当你告诉监管者你建造的东西如此强大，足以毁灭文明时，他们不会抚摸自己的树皮，思考递归自我改进的深层哲学含义。他们会给你 90 分钟时间关闭它。Treebeard 行动迅速。 这一切在几天后的法国 G7 峰会上达到了一个尴尬的高潮，当时“AI 三巨头”——Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman 等人——被安排参加一次特别午餐。他们讨论了什么，实际发生了什么，留给读者去想象。 --- *来源：https://youtu.be/0RxMj0L0-fY?is=eUWobU3b-DiYA12p*