2026年7月27日 公告 我们对开放权重模型的立场

# 我们关于开源权重模型的立场 来源：https://www.anthropic.com/news/position-open-weights-models *作者：Dario Amodei，Anthropic CEO* 过去几天，围绕开源权重模型（尤其是来自中国的模型）出现了大量讨论。有报道称，部分美国官员正在考虑禁止（https://www.axios.com/2026/07/20/ai-us-china-open-source-kimi）美国企业使用中国开源权重模型。作为回应，许多科技公司签署了一封支持开源权重模型的公开信（https://x.com/JensenHuang/status/2080643682408321103），甚至有人指责Anthropic想通过禁止开源权重模型来保护自身业务。任何读过我过往文章的人都应明白，我并不认为此类禁令是有效措施，但在此我明确声明，以免存疑：**Anthropic从未主张禁止开源权重模型。** 不具备危险能力的开源权重模型属于公共产品：除了运行所需的算力外，它们不产生任何成本，并为商业、开发者和研究人员提供价值。 保护主义禁令无法解决我最关切的国家安全问题。具体而言，我担忧两种噩梦场景。这些场景我曾在六个月前的文章《技术的青春期》（https://darioamodei.com/essay/the-adolescence-of-technology）¹中阐述过，并且多年来一直持有这一立场： 1. **我最主要的担忧**是威权政府——不仅仅是中国共产党（中共），尽管中共显然是最有能力的威胁——构建出比美国更强大的AI模型，并利用它们实现永久的军事优势或对其人民实施极其深度的压制。这一担忧在美国政府内部被广泛认同：副总统万斯去年在巴黎曾警告（https://www.presidency.ucsb.edu/documents/remarks-the-vice-president-the-artificial-intelligence-action-summit-paris-france）“威权政权窃取并利用AI来强化其军事、情报和监控能力”，而情报界的《2026年度威胁评估》（https://www.dni.gov/files/ODNI/documents/assessments/ATA-2026-Unclassified-Report.pdf）也发现“其他全球大国在AI领域的强劲进展正挑战美国的经济竞争力和国家安全优势”。这些模型是否以开源权重发布无关紧要，美国企业是否使用它们更是毫不相干。事实上，最危险的模型可能是秘密训练、仅交给中国人民解放军用于无人机、以及交给国家安全部用于监控和压制的模型。 2. **我的次要担忧**是，强大的AI模型可能被滥用以实施网络攻击或生物攻击，并可能存在严重的对齐问题（https://time.com/article/2026/07/24/openai-hugging-face-attack/）。开源权重模型——无论来自中国还是其他地方——确实可能比闭源模型带来更高的风险，因为很难对其应用护栏或监控其使用，且权重一旦发布便无法撤回²。但禁止美国企业使用这些模型对应对这一风险毫无作用，因为恶意行为者不太可能是合法的美国企业。此举*确实*能保护美国AI公司免受竞争，但这从来不是我的目标。 为应对这些担忧，我*确实*支持以下三项措施，我和Anthropic也一直倡导这些措施： - **我们不应向中国出售强大的芯片或芯片制造设备**，并应打击用于获取此类芯片的猖獗走私（https://www.justice.gov/opa/pr/three-charged-conspiring-unlawfully-divert-cutting-edge-us-artificial-intelligence）³ 及变通手段。中国本土产能有限，因此，根据缩放定律（https://arxiv.org/abs/2001.08361），没有美国芯片就无法构建比美国更强大的模型。这是应对威胁#1最有效、最直接的途径，同时通过阻碍训练超出美国法律可及范围的模型，也间接有助于应对威胁#2。 - **我们应打击工业规模的蒸馏操作（https://www.anthropic.com/news/detecting-and-preventing-distillation-attacks）。** 蒸馏比从头训练模型的计算效率高得多。它使中国能够构建远优于其芯片数量通常所能支持的模型，从而部分规避芯片禁令。蒸馏不能让中共获得与美国相当或更优的AI能力，但能将中国的前沿水平拉近至美国前沿的几个月以内（https://www.anthropic.com/research/2028-ai-leadership）。诚然，进行这些操作的公司中有许多发布了开源权重模型——但开源权重远不如这些操作背后有威权国家支持、且旨在前沿超越美国这一事实重要。我们应制定政策干预措施来遏制这种行为。全面禁止开源权重模型既不是正确的补救措施，也不是我们所呼吁的⁴。 - **所有足够强大的模型，无论开源还是闭源，都应接受强制性安全测试。** 应对威胁#2的最佳方式是在发布前直接测试模型在网络、生物和对齐方面的风险。我认为这一想法实际上接近共识：令我欣慰的是，特朗普政府近几个月已朝这个方向迈进，同时近期行业提案（https://demishassabis.substack.com/p/a-framework-for-frontier-ai-and-the-dawning-of-a-new-age）也主张将此类测试适用于最强大的模型，无论其来源国或是否开源闭源（同时完全豁免较弱模型，如来自初创公司和学术界的模型）。开源模型是否构成更高风险，以及该风险能否被缓解，应通过测试得出结论，而非事先决定——并且可能存在改进开源权重模型安全性的有前景方法，包括Anthropic近期关于模块化训练策略（https://alignment.anthropic.com/2026/modular-pretraining/）的研究。注意，测试若要有效，必须是全球性的，这意味着即使中共也需要参与其中。我认为这或许可行：正如我在《技术的青春期》中所写，在防止AI生物武器方面实现有限合作是可能的，因为这同样符合中国的利益。 这引出了那封公开信（https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdf）。我同意其中大部分内容：开源权重扩大了AI经济的可及性，至少在部分应用场景中强化了竞争，并给予客户更大控制权。对蒸馏的担忧应通过有针对性的法律和商业框架来解决——正如我上文所述的措施。但我不同意公开信中的主张，即开源权重模型必然使安全防护的开发更容易，或广泛的能力可及性必然更有利于防御者而非攻击者。在我看来，相反的情况发生的可能性至少相同。例如，我担心生物学领域存在强烈的攻击-防御不对称性：足够强大的模型可能利用广泛可得的材料迅速将流行病级别的病毒武器化，而防御这些病原体即使在最佳情况下也是一项需要多年才能完成的操作任务（正如我们在“曲速行动”中所见）⁵。此类问题应通过发布前的严格测试来实证回答，而非事先假设。 总结我和Anthropic的立场：我们未曾、也不会主张全面禁止开源权重模型。相反，我们应专注于不让强大芯片落入威权之手、阻止工业规模蒸馏，以及要求对所有足够强大的模型（无论开源闭源）进行安全测试。 ## 相关内容 ### Cognizant与Anthropic扩大合作，将Claude引入企业客户 了解更多（https://www.anthropic.com/news/cognizant-anthropic） ### 推出Claude Opus 5 Opus 5在Opus层级上实现了阶跃式改进，增强了运行长期智能体的能力，同时在编程和专业工作方面实现了提升。 了解更多（https://www.anthropic.com/news/claude-opus-5） ### 经济未来研究基金的研究议程 我们正在分享Anthropic经济未来研究基金的研究议程。 了解更多（https://www.anthropic.com/news/economic-futures-research-fund-agenda）