DeepMind 创始人 Demis Hassabis 刚刚发布了今年关于 AGI 最重要的文章。以下是解读。

Demis Hassabis 是 DeepMind 的创始人，也是因 AlphaFold 获得诺贝尔奖的人。他在 X 上发表了文章，值得细细品读。这篇文章为 AGI 的含义、存在的风险以及我们需要采取的行动提供了完整的框架。他的观点是：他认为 AGI 还需几年时间，并比作不是互联网，而是电或火的发现。其经济影响将是工业革命的 10 倍，速度也是 10 倍。他认为这确实可能终结资源稀缺对人类进步的限制。在风险方面，他并未轻视：当前模型带来的网络安全威胁已经真实存在。生物和核风险“可能很快就会出现”。然后，他最重要的一句话是：“世界上没有人确切知道接下来会发生什么，甚至专家们也存在分歧。” 这是 Demis Hassabis 说的话，意义重大。他的实际提案是：一个模仿 FINRA 的前沿 AI 标准机构，这是一个公共-私营合作伙伴关系，通过定期更新的基准来定义前沿模型，要求在部署前 30 天进行预发布测试，并评估模型的网络安全风险、生物威胁和欺骗行为。他希望这成为国际标准的基础。他的论点很简单：AGI 到来之前的窗口期有限且宝贵。目前作为一个领域，我们并未充分利用这段时间。整篇文章值得花时间阅读。