美国刚刚将前沿AI列为受控出口,就像英伟达芯片一样

Reddit r/artificial 新闻

摘要

美国政府已对Anthropic最强大的AI模型Fable 5和Mythos 5实施出口管制,要求这些模型不得向外国公民开放。这一先例将前沿AI视同先进硬件,形成了两级全球访问体系,并引发了主权担忧。

美国政府刚刚要求Anthropic将其两个最强大的模型从全球所有外国公民手中切断,无论其身处美国境内还是境外。Anthropic无法干净地将外国人与美国人区分开来,于是直接对所有用户撤回了Fable 5和Mythos 5。因此,本周Anthropic发布了Fable 5和Mythos 5,两者基于相同的基础模型。Mythos是其中更重型的版本——它在发现软件安全漏洞方面表现极其出色,以至于Anthropic此前只对一小部分可信合作伙伴开放。正是这种网络安全能力让Mythos价值连城,也正是它让政府感到不安。周五,商务部长霍华德·卢特尼克致信Anthropic首席执行官,将这两款模型纳入出口管制。据称,触发因素是一家公司声称已成功越狱Mythos。这项指令在下午5点21分下达,毫无预警。当晚模型便已下线。Anthropic在数小时内遵守了指令,但公开表达了强烈反对。该公司表示,这次越狱是局部的,其他公开模型如GPT 5.5早已具备同样能力,而且安全防御人员每天都在使用这项精确能力。它的论点很简单:如果一个微不足道的发现就能撤走被数亿人使用的模型,那么任何前沿模型都无法持续在线。从日常角度看,今晚几乎没有任何变化。Opus 4.8、Sonnet和Haiku仍然可用。ChatGPT和Gemini也一切正常。但真正的故事在于先例。最强大的AI现在被当作先进芯片来对待——一种由一国政府许可并可撤销的东西。就像华盛顿决定哪些英伟达芯片可以卖给某个国家一样,它现在可以决定哪些AI模型允许被某个国家使用。而“外国公民”是一个巨大的范畴,它不关心你的国家是否是盟友。我认为由此可以推断出以下几点:一个两级AI世界——美国居民获得顶级前沿模型;其他人得到低一档的模型,而且即使这一档也可能在一夜之间无预警消失。主权AI的真实案例——每个主张本土模型的创始人和政策制定者都得到了证明:如果一个工具可以从你不参与投票的首都远程关闭,你就不能安全地将银行、医院或公共服务建立在它之上。给构建者的教训——不要将你的产品绑定到单一国家、单一模型上,并假设它会一直存在。准备好备用方案随时切换。抽象你的提示词,这样你就不会受制于一家提供商。将模型访问视为具有真正风险的供应链。未来发布将更慢、更受地理限制——如果政府可以因为一个狭隘的发现就撤走模型,每个实验室都会对发布内容及其覆盖范围更加谨慎。预计会有更多发布在第一天就将半个世界排除在外。我整天使用这些工具,也不会停止使用。不要恐慌,你也不应该。今晚没有任何东西崩溃。但如果你在美国以外,基于美国AI构建产品,请将今天视为访问权限可能被暂停的一天。准备好备份。比上周更认真地对待主权AI的讨论。你的看法是什么——合理的监管,还是让华盛顿以外的人无法安心的开关?
查看原文

相似文章

Anthropic遭遇了无人理解的出口规则

The Verge

特朗普政府以国家安全出口管制为由,命令Anthropic阻止外国公民(包括美国境内的用户及其自身员工)访问其AI模型Fable 5和Mythos 5。专家表示,这一前所未有的行动暴露了AI治理的不确定性,因为传统出口规则并未明确适用于远程AI服务。