关于AI开发的公开信

# 关于AI开发的公开信 来源：https://simonwillison.net/2026/Aug/2/open-letters/ #### 关于AI开发的公开信 *我把过去几周的公开信总结写在了我的赞助者专属通讯（https://simonwillison.net/2026/Aug/2/july-newsletter/）的一个章节中，但我决定也在这里分享。* **开放权重与美国AI领导力（https://www.microsoft.com/en-us/corporate-responsibility/topics/open-weight/）** 由微软牵头，日期为7月24日，已有235家AI相关公司签署，包括NVIDIA（见Jensen的史上第一条推文（https://twitter.com/jensenhuang/status/2080643682408321103)）、Amazon、Y Combinator、Linux基金会，以及（后来签署的）OpenAI。 这显然是为了反驳美国现任政府基于“安全”考虑而禁止或限制开放权重模型的各种倾向（https://www.axios.com/2026/07/20/ai-us-china-open-source-kimi）——考虑到Claude Fable 5遭遇的事情（https://simonwillison.net/2026/Jun/13/us-government-directive-to-suspend-access/），这种担忧是有道理的！ > 仅仅依赖封闭模型并非天然安全：它们可能以外部人员无法察觉的方式被攻破、滥用或失效。将先进的AI能力集中在少数封闭模型背后，会加剧这种风险。这会导致少数单点故障，削弱竞争，并将关键技术留在少数供应商手中。另一方面，开放权重模型允许广泛的开发者和研究人员社区检查其行为、识别漏洞、制定防护措施，并随着时间推移不断改进它们。 这封信中一个令人意外的点是，它明确支持蒸馏（即模型基于其他模型的输出进行训练的做法）： > 在塑造这一生态系统时，政策制定者应注意不要将合法的模型开发技术与盗用混为一谈。蒸馏，即使用一个模型的输出帮助训练或改进另一个模型的做法，是一种广泛使用的模型改进、评估和验证技术。它反映了学习、借鉴和改进现有技术的悠久传统，这一传统自开源软件运动兴起以来一直推动着创新。 值得注意的是，签署方中明显缺席的是Anthropic，后者在三天后发布了自己的回应《我们对开放权重模型的立场》（https://www.anthropic.com/news/position-open-weights-models）。首席执行官Dario Amodei强化了对威权政府构建“比美国更强大的AI模型”以及模型被“滥用于实施网络攻击或生物攻击”的风险的担忧，并呼吁“打击工业规模的蒸馏运营（https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks）”，同时表示“Anthropic从未主张禁止开放权重模型”。 随后在7月28日，发布了《Pacing the Frontier》（https://www.pacingthefrontier.com/），签署方包括“前沿AI公司的1,324名员工”——其中包括Jakub Pachocki（OpenAI首席科学家）、Ilya Sutskever（Safe Superintelligence Inc，曾任OpenAI）、Dario Amodei（Anthropic）、Jack Clark（Anthropic）等人。他们的核心信息是： > 我们请求美国政府支持一项国际努力，以开发必要的技术和治理工具，从而有意识地把握自动化AI发展的前沿节奏。 他们担心的是，激烈的竞争压力加上自动化AI研究带来的加速进展——考虑到Anthropic有80%的代码是用Claude Code编写的（https://www.anthropic.com/institute/recursive-self-improvement），OpenAI让Sol将端到端服务成本降低了20%（https://openai.com/index/gpt-5-6-frontier-intelligence-efficiency/），以及Kimi K3设计了一款芯片来服务于基于自身架构构建的nano模型（https://www.kimi.com/blog/kimi-k3#chip-design），你就会明白为什么人们现在更加认真地看待这一风险。