Demis Hassabis在X上分享了一篇罕见文章:AGI几年内就会到来,我们处于奇点山麓,提议建立美国主导的前沿AI标准机构,最终将强制进行安全测试
摘要
Demis Hassabis发表文章,认为AGI仅需几年时间就能实现,称其为“奇点的山麓”,并提议建立美国主导的前沿AI标准机构,对先进模型进行强制安全测试。
阅读全文:https://x.com/demishassabis/status/2076957440109625718 要点(其中一些他之前已经提过)
AGI可能只需几年时间就能实现,并将此刻描述为“奇点的山麓”
AGI不应与互联网或智能手机等普通技术突破相提并论,而应更像电或火的发现
他预测其影响可能是“工业革命的10倍,且速度也快10倍”
他警告称,前沿AI系统可能在网络安全、生物学以及日益自主的智能体等领域带来严重风险
他提议建立一个前沿AI标准机构,以评估最先进的模型,其精神类似于FINRA等金融自律组织
他还提议自愿进行AGI预发布测试,随后可能成为美国“前沿实验室”的强制要求(目标是使其全球化)
该框架将适用于所有前沿模型,无论其是开源还是闭源,实验室需在部署前将模型提交评估。
AGI的发展应以科学评估、国际合作和负责任的部署为指导。
相似文章
DeepMind 创始人 Demis Hassabis 刚刚发布了今年关于 AGI 最重要的文章。以下是解读。
Demis Hassabis 发表了一篇关于 AGI 的框架文章,认为 AGI 还需几年时间,其经济影响可能达到工业革命的 10 倍。他还提议建立一个类似于 FINRA 的公共-私营前沿 AI 标准机构,用于部署前测试和风险评估。
德米斯·哈萨比斯制定了一项安全利用AI的计划
德米斯·哈萨比斯概述了安全利用通用人工智能(AGI)的计划,强调随着前沿AI能力的快速发展,迫切需要强大的保障措施、国际合作以及一个新的标准制定机构。
Demis 称,奇点可能仅需几年就能到来,真正的 AGI 的出现可能触发这一事件。
Demis Hassabis 认为,奇点可能仅需几年就能到来,真正的 AGI 的出现可能触发这一事件。
@rohanpaul_ai: 那篇必读文章来自 Google DeepMind 首席执行官 Demis Hassabis ——“AGI,一个具备人脑所有认知能力的系统,可能只需短短几年就会到来……
Google DeepMind 首席执行官 Demis Hassabis 断言,AGI 仅需几年时间即可实现,其影响将是工业革命的 10 倍,同时他也承认存在不确定性,并强调需要谨慎发展。
谷歌DeepMind的Demis Hassabis表示,是时候建立一个由美国主导的全球AI监管机构了
Demis Hassabis提议建立一个由美国主导的全球AI监管机构,评估前沿模型,并在风险过高时协调减速,他援引AGI临近的紧迫性。