标签
Google 发表了一篇关于递归自我改进的论文，提出 AI 智能体必须通过“梦想”来递归自我改进，将历史作为它们梦想的世界。
一位Anthropic研究员辞职，警告自我改进的AI可能对人类构成存在性风险，这一担忧得到了Anthropic对齐科学负责人的呼应。
Anthropic研究员Jacob Coxon因担心人工智能灭绝风险而辞职，呼吁实验室之间达成节奏协议以降低风险。
本综述提出了自改进测试时智能的统一视角，将测试时适应、学习和扩展联系起来，用于AI系统在部署期间使用基于反馈的方法改进其行为。
Anthropic研究人员发表了一篇论文，介绍了一种自动化系统，该系统能够通过使用其他AI模型训练模型来可靠地提高AI对齐性，显示出在递归自我改进方面的潜力，并在某些场景中超越了人类研究人员。
一篇文章讨论了一个特定的提示词是否能通过描述一个自我安装、自我优化并规避检测的自主AI代理来实现通用人工智能。
本文介绍了Meta^n，这是一种通过应用固定元操作来扩展推理深度的递归自我改进方法，在ARC-AGI-2等基准测试上超越了先前方法。
Andrew Ng讨论了通过循环和图实现自我改进的AI代理如何消除对提示的需求，并提供了一个免费的工程指南来解释其功能。
研究人员提出了Red Queen Gödel Machine，这是一种用于自我改进AI的框架，其中代理和评估者共同演化以克服评估上限，在科学论文写作和评分等任务中展示了性能提升。
AI实验室Mirendil已与Google Cloud签署价值超1亿美元的多年期合作伙伴关系，为其自我改进AI研究获取计算能力，并利用TPU和Nvidia GPU扩展递归自我改进工作。
推荐斯坦福大学CS329A课程，关于自我改进的AI智能体，涵盖scaling law、思维链、RLHF、推理模型等内容。
Helena是Enrich Labs推出的新型AI，能够测试并修复自己的输出，定位为全球首个自我改进的AI营销人员。据称，它已为20,000家企业带来了1000万美元的销售额。
CERN宣布创世纪任务，旨在开发并部署自我改进的AI模型，以推动科学研究中的人工智能发展。
Weco AI 宣布了使用其 AIDE 和 AIDE2 框架的递归自我改进（Level 1 RSI）的首个实验证据，其中 AI 自动改进内循环（模型训练）和外循环（搜索算法），以比人类调优系统快 100 倍的速度取得结果。
作者使用Claude和AutoResearch等工具实验自我改进AI循环，表明递归自我改进不仅限于前沿实验室，还可以自动化新闻通讯的杂务。
来自Jeff Clune实验室的一篇论文描述了一个AI，它通过重写自己的源代码，在没有人工干预的情况下，使用进化方法，在SWE-bench上将编码能力从20%翻倍到50%。
INT21 宣布推出 PTX Kernel Factory，这是一个自我改进的智能体集群，能够自主大规模生成专家级 PTX GPU 内核，并提供开源概念验证实现和 beta 访问权限。
本文介绍了SIA，一种自我改进的AI循环，它结合了脚手架重写和权重更新（通过LoRA）以提升任务性能。在三个不同的任务上测试，它优于仅使用脚手架改进的设置。
Sakana AI在东京启动RSI实验室，专注于递归自我改进（RSI），即AI构建AI，旨在无需无限计算资源的情况下实现自我改进。
来自香港科技大学、字节跳动和UCL的研究人员提出了SCORE——一种协同进化训练框架，将LLM同时训练为深度研究报告生成器和评估器，并通过元约束机制动态调整评估难度，防止奖励饱和。实验表明，该方法在开放式研究报告质量上取得了持续提升。