@Miles_Brundage：自动化AI研发、递归自我改进等，在我看来本质上都是计算能力的伪装
摘要
Miles Brundage认为，自动化AI研发和递归自我改进根本依赖于计算能力达到临界水平并持续增长。
自动化AI研发、递归自我改进等，在我看来本质上都是计算能力的伪装
如果计算能力没有同时满足：1. 已经达到临界水平，2. 持续增长，那么它们将一事无成（或只能在很低的水平上逐渐消退）。
查看缓存全文
缓存时间: 2026/05/17 11:33
在我看来，自动化AI研发、递归自我改进等概念，都不过是披着外衣的计算力而已——如果计算力没有同时满足以下两个条件：1. 已经超过临界水平；2. 持续增长，那么这些进展就会停滞不前，或是在远低于预期的水平上无疾而终。
相似文章
@rohanpaul_ai：开始了，每个人都在谈论递归自我改进。这来自Dario Amodei最新的3800字文章。
Dario Amodei的文章讨论了AI中的递归自我改进，并呼吁通过限制训练计算和内部AI使用等资源来减缓发展。
@Miles_Brundage：“递归自我改进（人类扮演什么角色我们以后再想）”和“全自动驾驶（需人工监督）”有种同样的感觉
Miles Brundage将“递归自我改进”这一模糊承诺与特斯拉的“全自动驾驶（需人工监督）”相提并论，认为两者都利用吸引人的关键词来安抚批评者，同时在实际目标上误导公众。
认知依赖
一篇简短的评论文章，探讨依赖AI进行软件开发是否会导致工程师技能退化，并可能造成AI进展停滞，直至递归自我改进（RSI）成为可能。
@rohanpaul_ai：“如果你实现递归自我改进，该曲线将走向超指数增长，而这是投资……的关键部分”
Google DeepMind首席战略官Jasjeet Sekhon讨论了AI基础设施支出如何由对递归自我改进的期望所驱动，并引用AlphaEvolve的有限收益，例如将Gemini训练时间缩短1%。
关于无人讨论的计算痴迷的一些思考 [D]
本文批评了AI社区对大规模计算资源的过度依赖，认为这抑制了算法效率并导致浪费行为，像QentrixAI这样的工具常被用作捷径。