白宫正在实时制定AI规则

# 白宫正在实时制定AI规则 来源：https://www.wired.com/story/anthropic-mythos-export-controls-ai-regulations/ 特朗普政府向Anthropic发出出口管制指令（https://www.wired.com/story/anthropic-says-us-government-ordered-it-to-shut-down-mythos-models/）已近一周，迫使这家全球领先的AI实验室将其最先进的模型下线。经过Anthropic与白宫数日的谈判（https://www.wired.com/story/anthropic-is-still-at-odds-with-the-white-house-over-claude-fable-5/），双方在如何恢复Claude Mythos和Fable 5的问题上仍存在分歧。原因何在？这取决于你问谁。 据一位接近该公司的人士透露，在这场风波中，Anthropic认为自己并未违反特朗普政府制定的任何具体程序或规则。但白宫认为Anthropic行事鲁莽，表明其无法被信任来安全部署前沿技术。 这场闹剧向我证明，我们现在正式进入了美国AI监管的"狂野西部"时代。虽然管理前沿AI开发的成文法律寥寥无几，但这并不意味着当公司越过未明文规定的界限时，不会与特朗普的白宫发生冲突。 "问题在于，白宫一直采取极端反监管的立场，而现在他们面临的是人们多年来一直预测的真正AI能力，"一位前白宫技术官员表示，他要求匿名以免影响职业关系。"本应有充分的准备和政策来系统性地应对这一问题，管理其利益和风险，但结果却是这种草率的做法，让AI行业陷入了真正的困境。" 特朗普政府一再阻止对AI行业设置护栏的努力，经常辩称这些规则可能会阻碍美国的创新，导致美国落后于中国等竞争对手。自重返白宫以来，特朗普总统签署了行政命令，推翻了（https://www.wired.com/story/trumps-ai-action-plan-crusade-against-bias-regulation/）拜登时期建立国家AI框架的努力，并成立了一个联邦工作组来挑战那些可能被视为繁重的（https://www.wired.com/story/trump-signs-executive-order-ai-state-laws/）州法律。 尽管WIRED和其他媒体在过去一周公开了Anthropic与白宫谈判的细节，但这起争端仍以其不透明性为特征。美国政府从未明确说明Anthropic做错了什么——我们得到的最佳信息来自白宫技术顾问David Sacks在X上的一篇帖子（https://x.com/DavidSacks/status/2065853007619588171?s=20），概述了总体情况。 具有讽刺意味的是，白宫的行动可能恰恰阻碍了其想要保护的那种创新。特朗普政府要求Anthropic禁止所有外国公民访问Mythos和Fable 5，从而阻止了该AI实验室自己的许多员工访问其最尖端的模型，而该公司表示这些模型在最近几个月加速了其研发（https://www.anthropic.com/institute/recursive-self-improvement）。Anthropic的所有客户也被排除在外，包括Apple、Meta以及大部分财富500强公司。 白宫对Anthropic的模型感到担忧或许有正当理由。正如我和我的同事周三报道的那样，美国官员在本月早些时候得知Anthropic与SK电讯（https://www.wired.com/story/sk-telecom-anthropic-mythos-export-controls/）共享了Mythos后开始感到担忧。SK电讯是一家韩国电信巨头，据称与中国有联系。另外，亚马逊CEO Andy Jassy向美国财政部长Scott Bessent提出了担忧（https://www.wired.com/story/anthropic-is-still-at-odds-with-the-white-house-over-claude-fable-5/），认为Claude Fable 5（Mythos的安全保护版本）的一些护栏可能被绕过。 即使这些担忧是合理的，也并不意味着白宫处理得当。在第一种情况下，Anthropic表示曾就Mythos的推出与美国政府协调过，这表明官员们本有机会提前对SK电讯提出警告。Anthropic与这家韩国公司合作多年，而这种安排此前似乎从未导致国家安全问题。据报道，当白宫向Anthropic提出对SK电讯的担忧时，该公司立即撤销了该模型的访问权限。 在第二种情况下，WIRED和其他媒体已充分撰文指出，每个大语言模型都可能被不同程度地越狱（https://www.wired.com/story/the-white-house-wants-anthropic-to-block-all-jailbreaks-that-may-not-be-possible/）。Anthropic和独立网络安全研究人员认为，解决越狱问题并非易事，也不是一个孤立的问题。由于AI模型是概率性的而非确定性的，科技公司无法保证它们对给定提示词会生成什么内容。如果白宫在越狱问题解决之前不允许Anthropic发布Claude Fable 5，我建议不要抱太大希望。 但归根结底，这里的问题不在于美国政府试图确保先进的AI模型有适当的安全保障或不让它们落入美国对手手中。而在于特朗普政府现在处于一个必须实时做出这些监管决定的境地。 我可以向你保证，其他AI实验室如OpenAI、Google和Meta一直在屏息关注Anthropic的不幸遭遇。我整周都在问AI高管同样的问题：你们如何避免Anthropic类似的命运？ 到目前为止，许多AI领导者得出了相同的结论：他们认为需要向白宫提前提供其最新AI模型的访问权限。此外，他们还表示，需要积极主动地就即将推出的模型与特朗普政府分享信息——让官员措手不及的风险实在太大。 "提前通知，提前访问。我认为这是我们听到的主要要求，不仅来自美国，也来自世界其他地区，"加拿大AI实验室Cohere的CEO Aidan Gomez在本周早些时候的一次采访中说。"我认为在很多方面，这些都是好事。这表明当局对一项极其重要的技术有强烈的参与和考量。" 特朗普总统上个月签署了一项行政命令（https://www.wired.com/story/this-is-how-trump-finally-signed-the-ai-executive-order/），建立了一个"自愿"系统，让AI实验室向政府提交模型进行早期测试。其中包括一个例外条款，明确表示这不会成为强制性的许可制度，这是科技行业提出的一个重大担忧，最初曾导致该行政命令被搁置（https://www.wired.com/story/the-white-house-is-at-war-with-itself-over-ai-regulation/）。但在Anthropic事件之后，特朗普政府似乎已经有效创建了这样一个体系的临时版本。"坦率地说，特朗普政府不应该说这是一个自愿制度，"这位前白宫技术官员说。"现在看来非常清楚，他们正在做的是一个许可制度。" --- *这是**Maxwell Zeff*（https://www.wired.com/author/maxwell-zeff/）***的《模型行为》新闻通讯**（https://www.wired.com/newsletter?sourceCode=editarticle）的一期。*在此阅读**往期新闻通讯。**（https://www.wired.com/tag/model-behavior/）*