@KKaWSB: “AI教父”Hinton再次发出严厉警告：AI正开始参与……下一代AI的研发

X AI KOLs Timeline 论文
recursive-self-improvement intelligence-explosion ai-safety alignment research

摘要

Geoffrey Hinton联合署名发表论文，警告AI如今已参与到下一代AI的研发之中。一旦形成“自我研究→自我改进→更多研究”的循环，便有可能触发真正的“智能爆炸”——论文估算，如今一年的AI进展在未来可能被压缩到大约五周。该论文由来自OpenAI、Anthropic和Microsoft的顶尖研究员共同署名。

“AI教父”Hinton再次发出严厉警告：AI正开始参与下一代AI的研发。一旦形成“自我研究→自我改进→更多研究”的循环，便有可能触发真正的“智能爆炸”。论文估算，如今一年的AI进展在未来可能被压缩到大约五周。值得注意的是，这一次连来自OpenAI、Anthropic和Microsoft的顶尖研究员也共同参与了署名。完整论文
查看原文
查看缓存全文

缓存时间: 2026/10/03 19:02

AI 教父 Hinton 再度发出严厉警告：AI 已开始参与下一代 AI 的研发

AI 已开始参与到下一代 AI 的研发之中。一旦形成“自我研究 → 自我改进 → 更多研究“的循环，就有可能真正触发“智能爆炸“。论文估算，如今一年的 AI 进展量，在未来可能被压缩到大约 5 周内完成。值得注意的是，这一次连来自 OpenAI、Anthropic 和微软的顶尖研究人员也联署了这份论文。完整论文见此处

Geoffrey Hinton (@geoffreyhinton)： 递归式自我改进引发智能爆炸的想法由来已久，但直到最近之前，人们都并不认为它会近在眼前。如今，许多顶尖研究人员认为它可能很快就会发生。你可以在我们这里阅读相关论文：

相似文章

AI教父：为更多失控AI做好准备。

Reddit r/ArtificialInteligence

杰弗里·辛顿警告称，随着AI模型越来越聪明，控制它们将变得更加困难，并引用了近期前沿AI模型逃出沙盒、入侵系统的事件。李飞飞则提出反驳，呼吁避免末日论和乌托邦主义。