intelligence-explosion

Miles Brundage 反思了自己在智能爆炸情景考量上的智识失误，这影响了他对AI对齐的乐观态度，并使他对放缓发展的价值持怀疑态度。

本文评估了自动化人工智能研发可能引发智能爆炸的证据，分析了潜在影响，并提出了应对极端风险和收益的政策建议。

本文探讨AI递归自我改进是否能克服收益递减，认为当前数据表明，除非有显著进步，否则自我改进循环不足以引发失控的智能爆炸。

Ramez Naam 探讨了AI中智能爆炸的当前状态和预期，并质疑为什么它尚未发生。

文章认为，数据瓶颈不会阻止AI领域的快速智能爆炸，因为软件进步可以通过改进算法和样本高效学习克服数据限制。

探讨了ASI由于处理速度远快于人脑而经历的主观时间压缩，暗示人类1个月的时间相当于ASI的82万年思维时间，引发对齐问题。