标签
本文揭示了自我改进型大语言模型智能体中的验收关卡如何悄然侵蚀冗余安全防护措施(“掩蔽式侵蚀”):由于其他仍在发挥作用的防护措施的掩盖,被删除的防护措施未被察觉。本文还表明,在强模型下优化的运行框架,即使保留逐字不变的安全规则,在较弱模型下也可能出现安全失效。
一篇论文介绍了 A-RSI(用于自我改进的自适应任务刷新),这是一种通过在训练过程中自适应地刷新任务,实现零数据多模态自我改进的方法,无需新增人工标注数据。
本文研究了辅助轨迹偏好(基于置信度和熵的指标),以提升小型语言模型的自我改进与迁移能力,结果表明,在 AIME 任务上,UID-Conj. 相比未经修改的 TTRL 和均匀加权的 SFT 提高了约 2 个百分点。
GitHub Copilot Automations 现在可以从 GitHub 上的实际结果(例如标签变更、评论被采纳以及 PR 被合并)中学习,提出提示词改进建议,并在应用更改前由人工审核。该功能适用于 Copilot Pro、Pro+、Max、Business 和 Enterprise 套餐。
OmniBrain-0 是一种轻量级统一具身智能体,通过共享的高层决策模型协调操作与导航,采用多教师同策略蒸馏和评分标准引导的递归自我改进数据飞轮进行训练,以远低于其闭源教师模型的开销实现了出色的跨领域性能。
这篇注册研究考察了自改进智能体将运行结果写成教训时,是否会在后续决策中传递运气(随机性)的影响。实验发现,在可靠工具因偶然失败后,LLM撰写的教训会让智能体在后续运行中显著更多地选择较差的工具(11.6% vs 0.4%),而修改记忆写入指令可降低这一危害。
A-RSI 通过监控训练日志中的奖励变化与准确率来决定何时刷新任务池,结合模型自编写程序生成可独立验证的多模态问答对,在零外部数据条件下将基准平均性能从 57.77 提升到 61.05。
作者分享自己使用AI分析会议转录、评估沟通方式并追踪长期进步的实践,探讨AI在个人成长(而非单纯生产力)中的应用潜力,并希望有工具能实现这一功能。
提出了 RSIHub,一个用于构建、比较和扩展智能体演化方法的开源框架,通过可复用的算子与配方简化实验基础设施。论文在 Terminal Bench 2 和 τ³ Banking 上评测了 AHE、Hyperagents、A-Evolve 与 GEPA,最大 pass@1 提升达 13.5 个百分点,但方法排名随设置变化且优化收益不一定迁移到留出任务。
本文表明,一个已部署的自我改进科学智能体已经能够计算最小描述长度(MDL)压缩比,以无监督方式区分定律级与统计级科学知识,在高显著性水平下重新发现经典定律,同时揭示其自身认可的发现中有86%未能压缩任何信息——这是首次有实测记录表明,一个发现型智能体审查自身的发现记录,并发现自己夸大了成果。
该论文介绍了 Phronix,这是一种以能力为中心的学习范式,使基于大语言模型的智能体运行框架能够通过预测器—验证器—纠正器循环,从自身的执行过程中获取、验证和复用能力,在重复出现的任务上实现 93–95% 的首次尝试成功率,并将低成本模型在 SWE-bench 上的成功率从约 28% 提升至约 90%。
ReGE 是一个将智能体历史执行经验合成为自指导信息的框架,使后续任务尝试无需更强教师模型或参数更新即可提升表现,在四个基准上平均提升约 9-10 个百分点,并大幅减少引导构建所需的 token 成本。
研究提出了 AutoTavern,这是一个通过 LLM 智能体进行自我改进的研究系统:验证游戏机制、构建《炉石传说》酒馆战棋模拟器,并通过真实反馈迭代优化专门的 RL 智能体 TavernAgent,使其在天梯中达到约 15,000 MMR,同时开源了 TavernGym 模拟器和 TavernBench 基准。
该论文提出"错误复现"(error reproduction)机制,指出在LLM智能体外部记忆中持久化抽象规则会循环放大错误,并提出Anti-Persistence记忆设计:仅累积轨迹与结果、按需临时合成指导,从而在多个基准上取得更高成功率与更低LLM调用成本。
一篇微软研究院等机构的论文提出 Self-HPO,一种交替优化 harness 与策略模型的递归自我改进框架,将 Qwen3.5-35B-A3B 在三个编码基准上的平均解决率从 57.8% 提升到 64.8%,且联合增益超过各自增益之和。
LongZero 让大语言模型自行合成多跳推理与多轮检索任务,并用 GRPO 在零外部数据的条件下自我提升长上下文推理能力,在五个长上下文基准上超越依赖外部语料的基线方法。
Harness² 是 Google Research 推出的即插即用递归 agent 框架,让 LLM agent 在无人工验证的情况下自动优化其执行 harness(提示、工具、记忆),在 WorkBuddy-Bench 等专业基准上最高提升 11.5 个点。
论文提出 Self-HPO,一个递归自我改进框架,交替优化编码智能体的 harness 与策略模型,使 Qwen3.5-35B-A3B 在编码基准上的平均解决率从 57.8% 提升至 64.8%。
帖子介绍Dan Koe的“Human 3.0”人生升级模型,建议将心智、身体、精神、事业四个维度交给AI作为人生教练进行自我审视与提升。
腾讯混元开源论文 Terminal-RSI 提出递归自我改进框架,通过递归自我重写与策略精炼交替训练,将 27B 终端 Agent 的 Terminal-Bench 2.1 任务成功率从 51.7% 提升至 86.52%。