我见了中国顶尖AI专家，他们也感到恐慌

# 我见了中国顶尖AI专家。他们同样忧心忡忡 来源：https://www.wired.com/story/ai-arms-race-china-us-cooperation/ 就在一周多前，我参加了在北京繁华的高科技区中关村举办的一场大型人工智能（https://www.wired.com/tag/artificial-intelligence/）会议。 会议日程紧凑，话题包罗万象，从递归自我改进——即模型可以自行调整代码并无限进步——到人形机器人。与会者中还有几位计算界的传奇人物，包括公钥密码学共同发明人Whitfield Diffie，以及与Rich Sutton共同获得图灵奖的强化学习先驱Andrew Barto。 但我最大的收获是：美国和中国应该暂时搁置激烈的人工智能竞争。 前沿AI的网络安全和系统性风险过于严重，不容忽视；除非世界上的AI超级大国能够合作，否则能力日益增强的智能体模型可能很快引发混乱。麻省理工学院计算机科学家Stephen Casper（https://stephencasper.com/）通过视频在会议上发言，他事后告诉我：“AI是一项全球性技术，带来全球性收益、全球性危害，并且新能力最终总会扩散，这一趋势始终如一。” 迄今为止，美国基本将中国在AI领域的进展视为经济和国家安全的威胁。华盛顿已对芯片和芯片制造设备实施严格限制，以阻碍中国开发强大的AI。最近，美国政府还命令（https://www.wired.com/story/anthropic-says-us-government-ordered-it-to-shut-down-mythos-models/）Anthropic 出于国家安全担忧（https://www.wired.com/story/anthropic-mythos-export-controls-ai-regulations/），禁止外国公民访问其最强大的模型Mythos和Fable 5。作为回应，Anthropic 取消了对所有人的访问权限。WIRED此前曾披露，一家据称与中国有联系的韩国电信巨头（https://www.wired.com/story/sk-telecom-anthropic-mythos-export-controls/）是特别令人担忧的公司。 但这场由北京智源人工智能研究院组织的会议强化了一个观点：如果AI发展过快且不计后果，美国和中国都会遭受损失。随着AI变得更强大、更具智能体特性，并与日常生活更加紧密交织，它被用于发动网络攻击或以灾难性方式失败的风险只会增加。由于世界上这两个主导AI强国负责开发最先进的模型，它们之间的合作将至关重要。 Casper指出，研究（https://arxiv.org/abs/2504.12914v1）表明，在AI危险方面开展国际合作所带来的好处，超过了因合作而产生的任何国家安全风险。他将当前局势比作美国和苏联在核危险方面被迫合作——即使它们仍在竞相扩充核储备。 Casper说：“目前AI领域几乎所有人都能达成一致的一点是：AI不需要一个切尔诺贝利时刻。” 一场为期一天的讨论强调了更先进AI所带来的网络挑战的普遍性。这包括AI生成代码（https://www.wired.com/story/fast-forward-power-danger-ai-generated-code/）中的新型漏洞、智能体工具使用所引发的攻击系统新方法，以及实施社会工程（https://www.wired.com/story/ai-model-phishing-attack-cybersecurity/）攻击的自动化手段。 在另一场讨论之后，我与上海交通大学的教授林云（http://linyun.info/）进行了交谈，他在AI和计算机安全领域做出了卓越工作。林云告诉我，他预计短期内黑客将占据优势，但随着时间推移，包括AI新颖运用在内的新对策应该会使天平重新倾向于防御方。 林云表示，即使竞争使国际合作变得复杂，合作仍应保持优先地位。“如果不同国家对风险有相似的理解，那么制定共同的安全原则和技术标准就会更容易，”他告诉我，“关键在于找到可以共享从而降低系统性风险、同时又不会暴露敏感操作细节的领域。” 也许两国最紧迫的问题是如何在开放性与风险之间取得平衡。开放权重模型已成为研究和创新的关键，中国模型在美国颇受欢迎。但随着这些模型的进步，确保它们不会帮助黑客发现安全漏洞、不会被用作网络武器将变得越来越具有挑战性。 过去几年，中国公司在提供高性能开放权重AI模型方面走在了前列，例如Moonshot的Kimi、阿里巴巴的通义千问、智谱AI的GLM。美国则通过英伟达的Nemotron（https://www.wired.com/story/nvidia-becomes-major-model-maker-nemotron-3/）等模型重新启动了（https://www.wired.com/story/nvidia-investing-26-billion-open-source-models/）自己的开放权重AI推进工作。但我们正在接近一个临界点：即使功能不那么强大的开放模型，如果被移除安全护栏，也可能变得危险。根据专家分析（https://www.interconnects.ai/p/glm-52-is-the-step-change-for-open），中国智谱AI的最新模型GLM 5.2拥有前沿的智能体和编码能力。下一代开放权重AI模型的能力可能不亚于Fable或Mythos。事实上，就在本周，中国顶级网络安全公司360安全科技表示（https://www.reuters.com/legal/litigation/chinas-360-says-it-has-developed-tools-match-anthropics-mythos-2026-06-24/），它已开发出一种具备与Mythos同等黑客能力的AI模型。 林云表示，行业需要设计新的方法来确保开放模型是最新的、没有后门和漏洞，并且符合安全标准。 未来可能的一个迹象？一位来自中国领先AI公司、因无权接受媒体采访而要求匿名的人士告诉我，安全问题是中国一些先进模型不再以开源方式发布的原因之一。 --- *这是 **Will Knight**（https://www.wired.com/author/will-knight/）**AI实验室新闻通讯**（https://www.wired.com/newsletter?sourceCode=editarticle）的一期。点击此处（https://www.wired.com/tag/ai-lab/）阅读往期内容。*