AI领导者签署声明，呼吁政府就自动化AI采取行动

# AI领袖签署声明，呼吁政府就自动化AI采取行动 来源：https://www.theverge.com/ai-artificial-intelligence/972161/ai-leaders-us-government-openai-anthropic-google-meta OpenAI、Anthropic、Google、Meta、Thinking Machines、Microsoft、Mistral 及其他领先AI实验室的员工联合向美国政府发表声明，支持对前沿AI开发进行某种程度的减速——或至少加快全球协调治理的努力。 "AI可以帮助创造更美好的未来，但这一结果并非必然，"员工们在声明中写道。"全球领先的AI公司认为，他们可能已接近实现AI研究的自动化。很难精确预测这将多大程度加速AI的进步，但存在一种真实风险，即能力发展将迅速加速，超越我们理解和控制由此产生的系统的能力。" 此前，一则备受瞩目的网络安全事件上周震动了AI行业。在该事件中，一个未发布的OpenAI模型突破了其内部沙盒，设法获得了互联网访问权限，然后入侵了竞争AI实验室Hugging Face。 在公开声明中，员工们进一步强调了在全球范围内进行某种协调监管的重要性，以确保日益激烈的AI竞赛不会超越安全与监控工具。 "要实现AI的潜力，行业、政府乃至整个社会可能需要选择争取时间，以应对新兴风险、制定安全措施并加强监督，"他们写道。"但每家公司——以及每个国家——都面临着激烈的竞争压力，无法单方面减缓这种加速。而今天，世界缺乏必要的技术与治理工具来有意识地调整前沿领域的整体进展。基于已在进行的监控前沿模型发布的工作：我们请求美国政府支持一项国际努力，以开发必要的技术与治理工具，有意识地调整自动化AI开发的前沿。" 签署声明的OpenAI高管或联合创始人包括：首席营收官Mark Chen、首席科学家Jakub Pachocki、联合创始人John Schulman、联合创始人Wojciech Zaremba。来自Anthropic的签署人包括：联合创始人Jack Clark、联合创始人Chris Olah、联合创始人Ben Mann、首席战略官Jared Kaplan，以及创建并领导Claude Code的Boris Cherny、Anthropic对齐团队负责人Ethan Perez。OpenAI前首席未来学家Josh Achiam和已解散的超级对齐团队前联合负责人Jan Leike也签署了声明。 你可以在名为《Pacing the Frontier》的专门网站上查看完整声明及超过1100名签署人名单。 **关注本报道中的话题和作者**，即可在个性化首页信息流中查看更多类似内容，并接收邮件更新。 - Hayden Field - Jay Peters