recursive-improvement

推测性文章：下一次大规模预训练可能在12-14个月内产生超人类AI，进而引发递归式自我改进。

对1250篇关于AI递归自我改进的论文的分析表明，评估者信号是关键瓶颈。模型只有在强大且可信的信号（如证明检查器）下才能可靠改进，而弱信号则会导致循环崩溃或强化错误。

作者使用Claude和AutoResearch等工具实验自我改进AI循环，表明递归自我改进不仅限于前沿实验室，还可以自动化新闻通讯的杂务。

MetaSkill-Evolve 引入了一个递归的双时间尺度框架，用于LLM代理，使其能够同时进化任务技能和改进过程本身，在OfficeQA、SealQA和ALFWorld基准测试上取得了显著的准确性提升。

吴恩达解读了Loop Engineering概念，即AI通过编写代码、测试、修复的循环来自动完成开发任务，并扩展到开发者反馈循环和真实世界反馈循环，强调人类在提供上下文信息中的关键作用。

本文探讨了从通用人工智能到超级人工智能的潜在路径，包括规模扩展、范式转变、递归改进及多智能体集体，并强调需通过跨学科全球协作应对变革性社会影响。

HexoAI 发布了 SIA，一个开源的自我改进型人工智能，能够通过递归自我提升来实现任何目标。