人们到底怎么看Demis Hassabis的最新文章?难道只有我觉得它读起来像企业套话,而且不像一位诺贝尔奖得主该有的水准?
摘要
作者对Demis Hassabis的最新文章提出批评,认为它读起来像企业战略,放弃了他早先对全球AI治理的愿景,同时指出AI CEO们对此有广泛共识,并对地缘政治框架和盲点提出了质疑。
TL;DR: 我原本期待Demis能写出一篇有深度的文章,但这更像是谷歌的企业战略。它放弃了他早先关于全球AI治理的愿景,转而支持一个由美国主导的联盟,提出了关于企业权力和开源的未解问题,而且听起来与Dario Amodei备受批评的立场惊人地相似。令人惊讶的是,所有主要的AI CEO都支持这篇文章。我自认为非常支持AI,而且通常对Demis的尊重超过大多数AI实验室CEO。正因如此,这篇文章让我心情复杂。
也许我遗漏了什么,但部分内容读起来像是企业宣传与技术救世论的混合体。更让我惊讶的是地缘政治框架。多年来,Demis一直谈论需要一个真正国际化的、类似CERN的机构来管理前沿AI。在这篇文章中,他却主张建立一个由美国主导的盟友联盟。时机也很有趣——这篇文章就在AI 2040报告发布几天后。同样引人注目的是,AI领导人在这个问题上几乎瞬间达成了如此大的共识。Sam Altman、Dario Amodei、Sundar Pichai、Satya Nadella、Mustafa Suleyman、Elon Musk、Jack Clark,甚至Ashton Kutcher都表示支持。这让我产生了一个疑问:为什么Dario主张同样的立场却受到那么多批评,而Demis却得到更积极的反应?我个人觉得Dario有点烦人,但这本质上不就是Dario想要的东西吗??
我注意到几个潜在的盲点:Demis的文章假设民主国家在AI治理上会保持一致;它过分信任前沿实验室会负责任行事,尽管它们面临明显的商业动机和竞争压力;它过于关注地缘政治竞争,却很少提及权力集中在少数公司手中——他们似乎都同意这一点,是在组建卡特尔吗?哈哈;它呼吁国际合作,同时又主张建立一个排除了世界领先AI强国之一的联盟——完全忽视了中国。它也没有真正解决如果开源模型继续缩小能力差距会发生什么的问题。算力管控和出口限制真的能遏制这种情况吗?
我喜欢Demis,但文章里也有不少煽情之处,比如“站在奇点的山脚下”、“我们基本上找到了让沙子思考的方法。这简直是奇迹”、“工业革命10倍速的10倍”、“宝贵的窗口”等等。
相似文章
Demis Hassabis在X上分享了一篇罕见文章:AGI几年内就会到来,我们处于奇点山麓,提议建立美国主导的前沿AI标准机构,最终将强制进行安全测试
Demis Hassabis发表文章,认为AGI仅需几年时间就能实现,称其为“奇点的山麓”,并提议建立美国主导的前沿AI标准机构,对先进模型进行强制安全测试。
@satyanadella: 来自Demis的重要文章。我们需要更多这样的思考。一个很好的提醒:目标是前沿生态系统……
Satya Nadella认可Demis Hassabis关于构建前沿AI生态系统的思考,该生态系统促进创新和选择,同时避免灾难性的模型崩溃。
@RonConway: Deepmind的Demis说得太对了。缓解AI技术风险是一个我们可以共同应对的挑战,……
Ron Conway称赞Demis Hassabis关于缓解AI技术风险的立场,呼吁制定公共政策以平衡创新与责任、安全及国际合作。他还感谢Sam Altman(OpenAI)和Jack Clark(Anthropic)的支持。
DeepMind 创始人 Demis Hassabis 刚刚发布了今年关于 AGI 最重要的文章。以下是解读。
Demis Hassabis 发表了一篇关于 AGI 的框架文章,认为 AGI 还需几年时间,其经济影响可能达到工业革命的 10 倍。他还提议建立一个类似于 FINRA 的公共-私营前沿 AI 标准机构,用于部署前测试和风险评估。
Google DeepMind 的 Demis Hassabis 呼吁建立美国主导的全球 AI 监管机构
Google DeepMind 首席执行官 Demis Hassabis 呼吁建立一个由美国主导的国际监管机构,以监督人工智能的发展并确保其安全性。