Demis Hassabis在X上分享了一篇罕见文章:AGI几年内就会到来,我们处于奇点山麓,提议建立美国主导的前沿AI标准机构,最终将强制进行安全测试

Reddit r/singularity 新闻

摘要

Demis Hassabis发表文章,认为AGI仅需几年时间就能实现,称其为“奇点的山麓”,并提议建立美国主导的前沿AI标准机构,对先进模型进行强制安全测试。

阅读全文:https://x.com/demishassabis/status/2076957440109625718 要点(其中一些他之前已经提过) AGI可能只需几年时间就能实现,并将此刻描述为“奇点的山麓” AGI不应与互联网或智能手机等普通技术突破相提并论,而应更像电或火的发现 他预测其影响可能是“工业革命的10倍,且速度也快10倍” 他警告称,前沿AI系统可能在网络安全、生物学以及日益自主的智能体等领域带来严重风险 他提议建立一个前沿AI标准机构,以评估最先进的模型,其精神类似于FINRA等金融自律组织 他还提议自愿进行AGI预发布测试,随后可能成为美国“前沿实验室”的强制要求(目标是使其全球化) 该框架将适用于所有前沿模型,无论其是开源还是闭源,实验室需在部署前将模型提交评估。 AGI的发展应以科学评估、国际合作和负责任的部署为指导。
查看原文

相似文章

Demis Hassabis 与谷歌的 AI 承诺(18 分钟阅读)

TLDR AI

Zvi Mowshowitz 分析了 Demis Hassabis 提议成立美国政府 AI 标准机构的文章,同时批评谷歌的军事 AI 合同违背了 Hassabis 早先的承诺,凸显了 AI 进步与负责任部署之间的紧张关系。