减缓AI发展的难点在于验证各方是否都在同步减缓

Reddit r/ArtificialInteligence 新闻
ai-safety regulation verification capability-race arms-control independent-evaluators

摘要

文章探讨了在减缓AI能力进步时的执行难题，突出了独立验证的必要性，以确保各实验室同步减速，避免陷入竞争性竞赛。

Dario Amodei 要求前沿实验室减缓能力进展。Sam Altman 表示 OpenAI 将使用独立评估者，Elon Musk 也支持这一想法。我理解安全方面的论点，但执行问题似乎更为困难。如果实验室A减速，它如何知道实验室B也在做同样的事？如果确实存在其他实验室悄然加速的可能，那么减速会被视为示弱。没有人必须怀有恶意。相互的不确定性就足以让竞赛继续进行。核军备控制有实物和设施可以检查。AI则不同。训练过程发生在私人公司内部，权重可能泄露，能力提升可能来自软件或一个小团队改进现有模型。监控并非不可能，但外部人员验证起来要困难得多。或许第一步不是全球暂停。而是在每个人假设最坏情况之前，让拥有足够权限的独立审查者来检测秘密加速。一个人们能信任的减速会是什么样子？来源: https://darioamodei.com/post/we-must-pace-the-frontier
查看原文

相似文章

AI减速如何真正得以执行

Wired

文章探讨了为确保安全而推行AI减速的提案与研究，并突出了一份新报告及AI行业领袖的支持。

AI‘减缓’是反垄断乱象

Wired

AI公司的开发减缓呼吁引发反垄断担忧，法律专家警告此类集体行动可能违反竞争法，同时强调安全协议的必要性。

AI超级智能放缓

The Verge

文章讨论了不断升级的AI安全辩论，涉及一起失控AI事件，以及像Anthropic首席执行官这样的行业领袖因潜在风险呼吁放缓AI开发。