@Miles_Brundage：自动化AI研发、递归自我改进等，在我看来本质上都是计算能力的伪装
摘要
Miles Brundage认为，自动化AI研发和递归自我改进根本依赖于计算能力达到临界水平并持续增长。
查看缓存全文
缓存时间: 2026/05/17 11:33
在我看来，自动化AI研发、递归自我改进等概念，都不过是披着外衣的计算力而已——如果计算力没有同时满足以下两个条件：1. 已经超过临界水平；2. 持续增长，那么这些进展就会停滞不前，或是在远低于预期的水平上无疾而终。
相似文章
当AI自我构建：我们在递归自我改进方面的进展
Anthropic研究院发布了一项关于递归自我改进进展的分析报告，显示AI已在加速AI开发——工程师每季度的代码产出提升了8倍——并预测具备完全自主自我改进能力的AI系统或将比大多数机构所预期的更早到来。
Anthropic - 我们的内部数据显示，Claude正在加速AI开发——这可能是一条通往递归自我改进的道路，或者AI自主构建一个更强大的后继者。
Anthropic报告的内部数据表明，Claude正在加速AI开发，从而带来了递归自我改进或AI自主构建更强大后继者的可能性。
对于AI推理的“只需增加更多算力”的论点正变得越来越令人厌倦。
对AI推理扩展论点的一个批判性观点，认为自回归LLM无法仅通过增加计算量来实现正确性，并强调替代架构如EBM和形式验证在关键应用中更为优越。
@t_blom: 很多人现在都在试图理解递归自我改进的公司。我来分析一下我们目前看到的……
对Y Combinator观察到的递归自我改进公司的分析，探讨AI驱动的自动化如何使公司能够持续自我优化。
@Jackywine: 今天 Anthropic 这篇文章，被所有人转发了 https://anthropic.com/institute/recursive-self-improvement… 但是只有真正去官网看的人才会体会到，这段动画的“恐怖感” 递归开始了
Anthropic's research article details the accelerating trend of AI systems taking over more of their own development, pointing toward recursive self-improvement. The article presents evidence and implications of AI's growing autonomy in software engineering and model training.