递归自我改进理论。它将如何运作？
摘要
本文探讨了在计算约束下AI递归自我改进的可行性，并批评了AI公司优先考虑利润而非社会利益。
近期出现了对AI自我改进的担忧，认为它最终能在几小时甚至几分钟内自我提升并创造新版本，竞相追求超级智能。但在实践中，如果这种AI需要巨大的计算能力（物理基础设施），而无论多少游说都无法通过确保和分配土地给数据中心来满足需求，这又将如何实现？AI确实带来严重风险，但这是否只是这些公司的公关说辞，其终极目标是以任何人类可承受的代价赚钱并让高层获利，而非推进什么全球使命（除非CEO产生了什么幻觉，抱有宏大妄想——这种情况在科技界屡见不鲜）。
相似文章
递归自我改进的经济学 [pdf]
本文探讨了AI系统中递归自我改进的经济激励和动态，分析了此类过程如何扩展及其对治理与安全的影响。
AI研究人员辩论我们接近递归自我改进的程度
AI研究人员辩论递归自我改进的可行性和时间线，讨论自动化AI研究人员、强化学习以及向AGI的进展。
当AI自我构建：我们在递归自我改进方面的进展
Anthropic研究院发布了一项关于递归自我改进进展的分析报告，显示AI已在加速AI开发——工程师每季度的代码产出提升了8倍——并预测具备完全自主自我改进能力的AI系统或将比大多数机构所预期的更早到来。
AI自我改进的递归临界性
本文介绍了一种用于递归AI自我改进的模型，定义了一个递归再生数，以确定在开发周期中AI研究的渐进式改进何时变得自我放大或衰减。
令AI末日论者胆寒的起飞场景：“递归自我改进”指的是人工智能可能学会构建和训练自身，从而带来指数级的新进展——以及风险。（赠阅文章）
本文探讨了人工智能中的递归自我改进概念，即人工智能系统可能实现自我增强，从而可能导致快速发展和引发AI末日论者担忧的重大风险。