Mara Chain:将失败重塑为 AI 系统自动进化的垫脚石

Hugging Face Daily Papers 论文

摘要

Mara Chain 提出了一种全新的 AI 系统自动进化框架,其核心思路是保留被淘汰的候选方案及其失败分析信息,用于迭代优化,而非像传统方法那样直接丢弃。在 AppWorld、TerminalBench 2.1 和 MuSiQue 等基准测试中,该框架以更少的 rollout 预算显著超越了 GEPA、AHE 等先前的优化器,并在 GLM-5、DeepSeek、Qwen 等多种骨干模型上验证了其通用性与跨模型适用性。

优化已部署的 AI 系统日益演变为对提示词、技能、运行框架和代码的编辑,而非直接调整模型权重。现有方法通常采用"提出-评估-选择"的流程来优化这些组件:生成候选配置,对其进行评估,仅保留满足验收标准的方案。然而,我们的分析表明,被丢弃的候选方案中往往包含对后续优化至关重要的信息。丢弃它们会导致后续提案反复陷入相同的失败模式。我们提出 Mara Chain,一种将被拒绝的候选方案转化为阶梯式改进基石的精炼流程。Mara Chain 不直接丢弃被拒绝的候选方案,而是将其保留,并利用先前尝试中积累的证据对其进行迭代精炼。该流程将每条精炼链限制在固定深度内,并采用帕累托过滤的 Top-N 选择机制来约束候选池规模。在 AppWorld 技能优化、TerminalBench 2.1 运行框架优化和 MuSiQue 检索管线优化三个基准上,Mara Chain 以更少的 rollouts 实现了更优的任务性能提升。在 AppWorld 上,其相对性能比 GEPA、ACE 和 SkillOpt-Lite 最多高出 20.5%,且比 GEPA 少用 65.5% 的 rollouts 即达到目标分数。在 TerminalBench 2.1 上,其通过率分别比 AHE 和 Meta-Harness 高出 20.2 和 22.5 个百分点。在 MuSiQue 上,其测试集 nDCG@10 和 Recall@10 分别比手工编写的检索管线高出 0.104 和 0.131。
查看原文
查看缓存全文

缓存时间: 2026/10/09 18:23

论文页面 - Mara Chain:将失败重新构想为 AI 系统自动进化的垫脚石

来源:https://huggingface.co/papers/2609.35855

很高兴向大家介绍 Mara Chain——将失败重新构想为 AI 系统自动进化的垫脚石!🧬

标准的「提出-评估-选择」优化流程会丢弃每一个未通过验收门槛的候选方案——因此后续的提案会不断重蹈相同的失败模式。Mara Chain 则不同,它会保留每一个被拒绝的候选方案及其生成轨迹、结构化分析和残留失败信息,并在同一个小批次上对其进行迭代式优化。失败不再是死胡同,而是垫脚石。链深度是固定的,候选池通过帕累托过滤的 Top-N 选择机制加以约束。

📊 核心亮点(相同模型、相同预算):

• AppWorld(技能优化):相比最优的先前优化器,最高相对提升 +20.5%;比 GEPA 更快达到目标分数,所需 rollout 数量减少 65.5%(3,280 次 vs 9,514 次;11.9 小时 vs 35.8 小时);在全部四项指标上取得最佳最终分数——89.9 / 83.9 / 76.7 / 59.0,对比未优化的 48.2 / 35.7 / 33.3 / 19.4

• TerminalBench 2.1(工具框架优化):通过率 71.9%,比 AHE 高 +20.2pp,比 Meta-Harness 高 +22.5pp——且输出 token 数量比未优化基线更少

• MuSiQue(检索管线优化):在与调优集不重叠的测试集上,test nDCG@10 +0.104、Recall@10 +0.131——是真正的泛化,而非记忆

• 在 GLM-5 / DeepSeek / Qwen 主干模型上均已验证(平均 +40.3 / +32.7 / +23.4pp):是系统在提升,而不是某一个特定模型

一个框架即可优化技能、Agent 工具框架和检索管线——无需更新权重,完全白盒可解释。

🔗 代码:https://github.com/ant-research/AntOmniEvo(README 中有快速上手指南) 📄 论文:https://arxiv.org/abs/2609.35855

彩蛋 🦞:项目附带一个「龙虾健身房」可视化器——每个候选方案都是一只在升级打怪的龙虾,弱的在地下室训练,强的进入黄金大厅。完整的谱系树,每一次修复都有迹可循。

欢迎提出任何问题——反馈和 star 都非常感谢!

相似文章

Mara Chain:将失败重新构想为 AI 系统自动演进的垫脚石

arXiv cs.LG

论文提出了 Mara Chain,一种精炼方法,它将被拒绝的 AI 系统配置(提示词、技能、运行框架、代码)转化为可复用的垫脚石,而非直接丢弃。该方法在 AppWorld 上实现了最高 20.5% 的性能提升,并在 TerminalBench 2.1 和 MuSiQue 上取得大幅进步,同时仅需远少于以往的 rollout 次数。

@rohanpaul_ai: Princeton 与 Meta 的一篇关于 AI 智能体持续改进的新论文很赞:发现当每次修复都保存为 LoRA 适配器并在类似任务中复用时,智能体重复犯错的次数会减少……

X AI KOLs Timeline

Princeton 与 Meta 的新论文提出 Self-Direction 方法:让失败的 AI 智能体反思并将教训训练成约 0.02% 大小的 LoRA 适配器,由路由器在遇到相似任务时自动加载,从而显著减少重复错误。在 Qwen3.6-27B 上,GAIA 任务成功率从 38.8% 提升至 55.8%,且跨 185 个早期错误的修复持久性远超普通重试。

自我进化代理脚手架框架

Hugging Face Daily Papers

提出一个自我进化代理框架(Harness RSI),在保持模型权重固定的情况下,通过反馈驱动的修订与进化优化,持续改进代理的软件脚手架(提示、记忆、工作流和可执行组件),并借助持续 PAC 学习为泛化与保留能力提供理论保证。