随着AI安全担忧加剧，三位先驱主张保持开放

# 随着AI安全担忧加剧，三位先驱为保持开放发声 | TechCrunch 来源：https://techcrunch.com/2026/08/12/as-ai-safety-concerns-mount-three-pioneers-make-the-case-for-staying-open/ 随着像 Pacing the Frontier 这样的项目将目光投向大型实验室，以求保障AI研究的安全，开源模型已成为行业的一个痛点（https://techcrunch.com/2026/08/04/open-weight-ai-models-are-catching-up-to-the-frontier-the-safety-gap-remains/）。由于可以自由分发且对其使用方式几乎无法控制，开放权重模型不易管束，导致一些实验室（https://techcrunch.com/2026/07/20/openai-is-scared-of-open-weight-models-should-the-us-be/）将它们视为彻头彻尾的可怕之物。 但上周在拉斯维加斯举行的 Ai4 会议上，三位全球最受尊敬的AI研究者——诺贝尔奖得主 Geoffrey Hinton、World Labs 首席执行官兼联合创始人 Fei-Fei Li，以及 Coursera 联合创始人 Andrew Ng——就这一问题发表了看法。尽管他们在具体策略上意见不一，但三人都为保持AI的开放性提出了有力论据。 对这三位发言者而言，核心担忧在于让少数大型AI公司控制进步的步伐。当少数公司掌控某项技术的使用权时，就像苹果和谷歌在移动操作系统领域那样，创新可能会放缓，而这些掌控平台的公司还会影响在平台上构建的内容。 Andrew Ng 表示，他担心AI领域会出现类似的动态。“我不希望有守门人，”Ng 说，“那会限制我们所有人接触AI的方式。” 公司有动力保护自己的竞争优势，包括通过影响行业规则。这可能会形成一种局面，只有那些规模最大、资金最充足、有资源构建最先进AI系统的公司才能脱颖而出。 Ng 的解决办法是保持多个供应商，让模型和公司相互竞争，而不是允许少数玩家主导这一领域。“如果非要给出一个药方，那就是促进开放，”Ng 说，“因为AI是了不起的技术，我希望它能掌握在每个人手中。” 但并非所有人都认同开放权重模型有助于维持这一局面。尤其是 Hinton，他区分了开源软件与开放权重模型：开源软件允许人们查看和修改底层代码，而开放权重模型则向公众发布训练好的AI模型的参数。 “开源很好。你把代码展示给别人，很多人会查看代码并说：‘哦，这里有个bug。’ 开放权重则是你训练一个大模型，然后把权重交给别人。这是完全不同的，”Hinton 说。“我曾反对开放权重，因为它让人们很容易获取这些训练成本极高的基础模型，再用少得多的钱把它们训练去做坏事，比如网络攻击。” 但无论有何保留意见，Hinton 都承认开放权重模型已经成为AI的永久组成部分。“我认为那场仗已经输了。我们现在已经有了开放权重模型，所以阻止很多人获取这些大型模型的障碍——也就是训练基础模型的成本——已经消失了。已经太晚了。” 不过，接受现实并不意味着无视风险。Hinton 的立场很明确：AI会继续发展，而他认为这大体上是一件好事。他说，AI将提升生产力，改善教育和医疗。“担心AI可能带来的负面影响，以及比我们更聪明的智能体可能做出的事情，我不认为这有什么不公平。我认为，把任何这样思考的人贴上‘散布恐慌者’的标签才不公平，”Hinton 补充道。 Ng 持不同观点。他认为，问题不在于开放模型是否有风险，而在于谁控制着访问渠道，以及谁会赢得市场。谁能构建出更便宜的模型，谁就占得先机。他警告说，如果中国的开放权重模型在亚洲、非洲及/或发展中世界得到广泛采用，它们可能会影响数十亿人对民主、自由和人权等观念的看法。 “我希望我们能做的一件事，就是鼓励美国的竞争力和开源AI。事实证明，AI是软实力的巨大源泉。你可以看到中国的模型在非洲取得的巨大成就，”Ng 说。“但我担心的是，由于美国国内的各种游说和散布恐慌情绪，美国的开源AI建设正在艰难地与中国推出的开放权重模型竞争；而如果中国找到了一种根本性更具成本效益的AI构建方式，那么更具成本效益的东西在商业采用上就具备根本优势。” Li 对这一框架提出了反驳。“把问题看作从完全开放到完全封闭的二元对立是非常危险的，”她说，“在复杂的软件系统和科学系统中，情况要微妙得多。” Li 以核物理为例：科学论文公开出版，但铀受到管制，而实验室工作则介于两者之间。她解释说，这说明开放性不一定是非此即彼的选择。生态系统的不同层面可以在不同开放程度上运作。 她还强调了公共机构与私营机构之间的合作，例如人类基因组计划。她说，由此产生的知识成为一个可供他人构建的平台，让制药公司获利、科学家推进研究、社会从中受益。 “所以我认为我们必须把AI当作这样的基础设施，”Li 说，“我们需要一定程度的开放性，无论是在科学发现、教育、全球合作方面，还是在为创业者提供有利可图的商业模式方面。但我们也接受闭源系统。这场争论，尤其是那种‘我们只能容忍一种’的笼统说法，是一场虚假的争论。我们需要达到一个更加细致入微的层面。” 但所有人都同意，需要一定程度的监管来确保AI走上正轨。“我们要做的是让AI朝着帮助人们的方向发展，而监管将帮助我们做到这一点，”Hinton 说，“你不能把AI该如何做的问题留给像 Elon Musk 和 Mark Zuckerberg 这样的人来决定。” *当您通过我们文章中的链接购买商品时，我们可能会赚取少量佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不会影响我们的编辑独立性。*