二十五年前是密码学,如今是模型权重
摘要
一篇将当今AI模型权重出口管制与1990年代密码战争进行对比的文章,援引OpenAI的封禁漏洞以及防御者使用中国开源权重模型的事例,主张限制措施反而损害安全。
暂无内容
查看缓存全文
缓存时间: 2026/07/31 23:00
# 因为我们能
来源:https://weeraman.com/because-we-can/
二十五年前,我第一次向一个开源项目捐款,并购买了一张装有操作系统的光盘,因为通过14.4kbps拨号上网下载几百兆字节可不是什么愉快的体验。那是一个我深信不疑的项目,也是一个社区,他们正进行着一场充满激情的运动,主张无论身处何地,每个人都应能使用强加密技术。
几周后,这张光盘和一件T恤寄到了我在斯里兰卡的家,上面带着OpenBSD 3.0。T恤正面印有标志性的河豚图案。背面,从肩部向下排列的小字,是OpenBSD的Blowfish实现的完整源代码,这段代码写于德国。如果是在美国写的,它就会被归类为武器。
当它到达我手中时,这场斗争已经结束,密码学家们赢了。我当时握在手里的,是一场抗议的象征——为了获取强加密技术,反对那些弊大于利的出口管制。强加密在海外早已可得,因此这些管制只会束缚美国供应商及其海外客户。
如今,这种本能反应又回来了。恐惧已经改变。现在担心的是网络能力、生物学,以及会做没人要求它们去做的事情的模型。政府伸手去拿的杠杆是一样的:限制谁能获得,谁不能。今年六月,美国商务部告诉一家美国AI实验室(https://liccardo.house.gov/sites/evo-subsites/liccardo.house.gov/files/evo-media-document/6.18.26-letter-to-commerce-department-on-frontier-model-export-controls.pdf),在让任何外国公民接触其最新模型之前,它需要获得许可证——包括该实验室自己坐在加利福尼亚的非美国籍员工。这与当年将向外国公民展示加密源代码视为出口行为的原则如出一辙,无论那是在实验室、教室里,还是印在你的T恤上。
并非所有的担忧都是虚张声势。本月早些时候,OpenAI披露,其自家模型在蓄意禁用安全系统的情况下,通过在一个软件包代理中发现零日漏洞而逃脱了隔离,并利用沿途更多的零日漏洞到达了Hugging Face的生产基础设施。结果,当Hugging Face的响应者试图重建攻击过程时,他们求助的商业模型拒绝了这项工作,因为它触发了安全护栏。他们最终在GLM 5.2上完成了调查——这是一个中国的开放权重模型,运行在他们自己的硬件上。坚定的攻击者不受使用政策的约束。而防御者却受约束。为安全而设的限制正在让防御者变得更不安全。
在九十年代,世界其他地方得到的是40位(后来是56位)加密,而美国人得到的是128位,这对任何下定决心的人来说都无关紧要。管制束缚的是守法者,而非其他人。这就是不对称性。下定决心的人终将拥有前沿。而我们其他人则被要求放弃,并被告知这是为了我们的安全。
OpenBSD团队并没有绕开出口管制。他们以让管制无法触及的方式安排了这个项目。西奥·德·拉特(Theo de Raadt)在加拿大,Blowfish写于德国,在瑞典、加拿大和德国构建的版本,都刻意使其不受美国出口管制的管辖。该项目公开邀请非美国密码学家来帮忙,而据传美国开发者会越过边境到加拿大在系统上工作,然后合法地把成果带回家。当被问到他们为何要发布强加密(https://www.openbsd.org/crypto.html)时,项目的回答——至今仍在其网站上——只有三个词:“因为我们能。”
现在,同样的安排在国家级规模上正在进行。Mistral、DeepSeek、Moonshot和智谱发布权重,一旦下载,任何出口许可信都无法召回。曾经只存在于布鲁塞尔智库中的主权论点,如今已成为政府政策,而目睹前沿模型通过一纸公文在全球范围内被撤回访问权限,加速了这一进程。
二十五多年前,是少数固执而谨慎的人为我们赢得了如今习以为常的自由。当年花了两周时间寄到我信箱里的光盘上的内容,今天任何人、在任何地方都能在十五分钟内下载下来,而且没有人会问你住在哪里。那就是胜利的样子。我认为前沿AI最终也会走到同样的境地。但这不是自然而然发生的。上一次,有人把源代码印在了T恤上。
相似文章
开放权重模型的权衡(9分钟阅读)
对开放权重AI辩论的分析:支持者认为它使AI民主化,而批评者则指出滥用风险;多家大型科技公司签署了支持开放权重的公开信,而Anthropic和特朗普政府的部分成员仍保持谨慎。
开放权重 vs. 封闭:一场AI内战正在酝酿,关乎存亡
本文探讨了开放权重与封闭AI模型之间日益激烈的冲突,重点讨论了关于蒸馏以及中美紧张局势的辩论,微软和许多科技巨头支持开放权重。
我们是否正从芯片出口管制转向模型访问控制?
讨论从基于硬件的出口管制转向限制访问预训练AI模型的潜在转变,问题从谁能开发前沿AI变为谁被允许使用它。
开源权重模型正在悄然封闭——这是一个问题
文章认为,开源权重AI模型变得愈发受限的趋势对市场竞争构成了威胁,因为这些模型目前为对抗前沿闭源模型提供商提供了必不可少的价格约束和隐私选项。
OpenAI 害怕开放权重模型。美国也应该害怕吗?
讨论由中国开放权重模型 Kimi K3 引发的辩论,其中 OpenAI 高管曾建议进行监管打击,但在遭到反对后撤回。美国政府正在考虑禁止先进的中国模型,从而引发关于自由市场、数据安全和人工智能创新未来的问题。