Demis Hassabis在X上分享了一篇罕见文章:AGI几年内就会到来,我们处于奇点山麓,提议建立美国主导的前沿AI标准机构,最终将强制进行安全测试

Reddit r/singularity 新闻

摘要

Demis Hassabis发表文章,认为AGI仅需几年时间就能实现,称其为“奇点的山麓”,并提议建立美国主导的前沿AI标准机构,对先进模型进行强制安全测试。

阅读全文:https://x.com/demishassabis/status/2076957440109625718 要点(其中一些他之前已经提过) AGI可能只需几年时间就能实现,并将此刻描述为“奇点的山麓” AGI不应与互联网或智能手机等普通技术突破相提并论,而应更像电或火的发现 他预测其影响可能是“工业革命的10倍,且速度也快10倍” 他警告称,前沿AI系统可能在网络安全、生物学以及日益自主的智能体等领域带来严重风险 他提议建立一个前沿AI标准机构,以评估最先进的模型,其精神类似于FINRA等金融自律组织 他还提议自愿进行AGI预发布测试,随后可能成为美国“前沿实验室”的强制要求(目标是使其全球化) 该框架将适用于所有前沿模型,无论其是开源还是闭源,实验室需在部署前将模型提交评估。 AGI的发展应以科学评估、国际合作和负责任的部署为指导。
查看原文

相似文章