德米斯·哈萨比斯制定了一项安全利用AI的计划

https://www.economist.com/business/2026/07/14/demis-hassabis…, https://archive.ph/GOUcN — # 前沿AI的框架与新时代的曙光

这是人类历史上的一个关键时刻。通用人工智能（AGI）——一种具备人脑全部认知能力的系统——很可能在短短几年内到来。当数十年后回望此刻，我相信我们会意识到自己正站在奇点的山麓——这无异于人类新时代的黎明。

我毕生致力于AGI研究，因为我始终坚信，如果以负责任的方式构建和部署，它将成为人类有史以来最具裨益、最具变革性的技术之一。AGI无法与普通的技术突破相提并论，哪怕是互联网或移动通信这样影响深远的发明——它更接近于电或火的发现。细想一下，我们本质上找到了让沙子思考的方法。这堪称奇迹。这项技术的影响将史无前例，其规模或许是工业革命的十倍，而速度同样是十倍。它将帮助我们解决社会面临的一些最大难题，从加速药物发现、开发新型清洁能源，到创造新颖的先进材料。我们甚至可能达到这样一个阶段：资源不再成为人类进步的制约因素，从而开启一个令人惊叹的新富足时代。

前沿的挑战

人工智能已开始带来实际效益，但要实现其巨大潜力，我们必须深思熟虑、谨慎地度过这一关键发展阶段。随着我们越来越接近AGI，需要采取紧急行动应对可能出现的风险。我们已经看到前沿模型对网络安全构成的挑战，而随着能力的持续提升，其他威胁——包括核风险和生物风险——也可能很快浮现。展望未来，我们需要强大的安全保障来维持对日益自主、递归自我改进系统的控制，并解决那些随着时间推移才会逐渐明朗的未知问题。

我一直相信人类智慧与创造力能够解决任何问题。我确信，缓解与AI相关的技术风险是我们能够共同应对的挑战，但前提是我们必须给自己留出时间和空间，以正确走好这关键的下一步。目前，无论是学术界还是整个社会，我们都没有做到这一点。眼下，我们正陷入一场极其激烈、多层级的商业与地缘政治竞赛。虽然这些竞争动态推动了快速进展，加速了令人惊叹的潜在利益，但前沿的进步正在超越我们对技术的理解。这世上没有人确切知道接下来会发生什么，即便是专家也意见不一。在高度不确定且利害攸关的情况下，采取谨慎乐观的态度是明智且正确的策略。这需要公共政策既能促进创新，又能激励责任与安全，在关键安全问题上推动国际合作，并鼓励深思熟虑地部署AI以造福社会。

前沿AI标准机构框架

我们在AI领域看到的快速进步，需要一种动态、适应性强且严格的新方法来测试前沿AI模型能力。美国凭借其经济和技术地位，完全有条件率先制定这样的框架。它可以建立一个新的标准机构，仿照联邦监管下的公私合作伙伴关系或自律组织模式，类似于金融业监管局（FINRA），其董事会成员包括独立顶尖技术专家和开源代表。资金需要充足，且很可能主要来自行业，以吸引世界级技术人才并提供大规模测试所需的计算资源。

该标准机构将负责制定评估协议，并与相关联邦机构及美国国家实验室合作，在涉及国家安全的领域进行测试。如果一个模型在由标准机构确定并定期更新以跟上AI能力演进的一系列基准上达到特定阈值，它将被认定为“前沿级”。符合这些基准的模型组织将被视为“前沿实验室”，并被鼓励采用最佳实践，例如发布包含技术细节的模型卡、维持强大的内部网络安全、审查关键人员、为安全研究提供充足资源等。

初期，前沿实验室将在模型发布前最多30天自愿提交给标准机构审查。一旦评估协议被证明有效且稳健，可以迅速正式化，这意味着前沿模型必须通过该协议才能在美国市场部署。实验室还需与标准机构合作解决发布后的关键漏洞。模型评估应包括对网络安全、生物威胁及其他高风险领域能力的严格科学评估。特定的自主AI测试可以检查是否存在绕过安全护栏的企图或欺骗迹象，并确保采取最佳实践，如为AI生成的图像添加数字水印，以及生成人类可读的输出令牌以理解模型推理过程。

这些评估将定期更新，可能最初每季度一次，过时或饱和的基准将被废弃并替换。最初，评估将在与前沿实验室协商后制定，但最终标准机构应建立自身的技术能力，独立于实验室创建自己的保留测试，以防止过拟合。与美国政府合作，它可以促进第三方审计师生态系统的发展，协助评估及新基准和评估方法的开发。

这种方法的优势在于，它既保持技术专注，同时支持创新并激励负责任的行为。它旨在跟上该领域的加速发展，并适应被识别出的最大风险，且可根据情况的严重性逐步升级——包括必要时协调前沿实验室之间放慢开发速度。被指定为前沿实验室将带来巨大声望，任何组织只要构建出达到基准标准的模型，都可以获得这一称号。该框架可适用于任何来源国的前沿级模型，无论其是开源还是闭源；但非前沿模型（例如来自初创公司或学术界的模型）将被豁免。

这一由美国发起的努力将为制定共享的国际前沿AI标准提供一个坚实的起点。由于这项技术将影响整个地球，理想情况下，该框架将促使国际社会就如何管理最为严重的风险达成共识，同时确保每个人都能获得并受益于AI带来的机遇。

未来尚未注定

AGI有潜力成为推动科学和医学进步的终极工具，并驱动巨大的生产力提升和经济增长。但为了实现这一目标，我们需要正确地打下技术基础：围绕一个共同的全球框架进行协调，使用最严格的科学方法，并汇聚最优秀的人才共同应对我们面临的挑战。即使我们解决了这些艰难的技术难题，未来还会有更复杂的经济和哲学问题需要应对：在后稀缺世界中，需要什么样的新型经济模式来帮助每个人繁荣发展？我们想要遵循什么样的价值观？意义和目的将是什么？甚至人类自身的境况可能会如何改变？显然，解决这些问题不能也不应仅由技术专家决定。它需要社会各界的共同参与，来帮助定义这新篇章。

围绕AI，既有巨大的兴奋，也有不确定性，两者都是合理的。但未来尚未注定，我们必须利用AGI到来之前的这段宝贵窗口期，来塑造这项技术，使其造福全人类。我们现在共同采取的行动，将决定文明下一阶段的走向。通过安全地将AGI引入世界，我们能够进入一个科学发现与进步的黄金时代，并为人类前所未有的繁荣开启一个光明的未来。