关于自进化智能体运行时框架的精彩论文指出，当前自进化框架面临两大实际问题：1. 搜索效率低下，因为每个候选框架都需要反复运行智能体并进行代码修改；2. 修复方案过度拟合，每当出现失败时都被视为框架缺陷进行修补，即使问题实际源于模型本身。Ecdysis通过分析批量任务中的失败案例，仅修复那些反复出现的问题模式。在修改任何代码前，多个诊断角色会先就修改规范达成一致。与现有的框架进化方法相比，框架训练速度最高可提升1.84倍，所生成的框架推理准确率提高18.56%。这些框架还能在不同大语言模型间实现更好的迁移效果，消耗更少的token，并且仅用四分之一的数据即可达到全量数据训练的效果。论文链接：https://arxiv.org/abs/2609.11677 对话论文：https://academy.dair.ai/papers/ecdysis-efficient-and-effective-training-of-runtime-harnesses-for-llm-agents-2609.11677

Ecdysis：面向LLM智能体的运行时框架高效训练方法

来源：https://arxiv.org/html/2609.11677

岳瑞清††感谢：崔宇提出了该算法，岳瑞清通过实验验证了其有效性。单位：中国科学院成都计算机应用研究所；中国科学院大学
崔宇†感谢：同上
孙卓宇 单位：北京理工大学
潘思成 单位：北京理工大学
薛先鸿 单位：中国科学院成都计算机应用研究所；中国科学院大学
李廷宇 单位：北京理工大学
李婷 单位：北京工业大学
朱文卓 单位：北京工业大学
陈义 单位：中国科学院成都计算机应用研究所；中国科学院大学
刘一飞 单位：北京理工大学
黄宝汉 单位：北京理工大学
崔哲 单位：中国科学院成都计算机应用研究所；中国科学院大学
张海滨 单位：清华大学长三角研究院；嘉兴市人工智能与网络韧性重点实验室
https://github.com/cuiyu-ai/Ecdysis
项目负责人：崔宇
左聪 单位：北京理工大学

摘要

自进化运行时框架能够显著提升大语言模型（LLM）智能体的能力，为智能体执行优化提供了有前景的新范式。现有框架进化方法通常依赖迭代搜索，基于任务实例的执行反馈反复评估和修改候选框架。虽然这种方法能持续优化框架，但会因反复的智能体执行和代码修改产生巨大时间开销，并可能对观测到的任务和特定失败模式过拟合，导致对未见任务的泛化能力下降。我们识别出缺乏原则性故障诊断是框架进化中的关键瓶颈：观测到的故障既可能反映特定模型的缺陷，也可能暴露系统性的框架缺陷，而直接针对单个故障进行优化可能导致不必要的模型适应性调整。因此我们提出Ecdysis框架，该框架能有效区分针对模型的适应性调整与框架层面的系统性修复，通过识别跨任务反复出现的失败模式，引导优化方向偏向系统性框架缺陷。Ecdysis采用批量跨实例故障聚合范式，联合分析来自多个任务实例的故障证据，进一步引入故障驱动协同优化（FDCR）机制来诊断故障原因，并迭代完善框架修改规范。通过结合跨实例故障分析与多角色诊断，Ecdysis在降低端到端训练时间的同时，实现了更高效的框架进化。在多个LLM和基准测试上的实验表明，与现有框架进化方法相比，Ecdysis在框架训练速度上最高可提升1.84倍，同时将所生成框架的推理准确率提高了18.56%。此外，使用Ecdysis训练的框架展现出更强的跨LLM泛化能力，并降低了推理时的token消耗。

1 引言

大语言模型（LLMs）在复杂推理任务中展现出日益强大的能力。然而，仅依赖基础模型的能力往往不足以满足实际LLM智能体[1]的需求。近期研究表明，运行时框架能够通过任务规划、工具交互和上下文管理等推理时机制，显著增强智能体能力[2,3,4]。以Codex[5]为代表的编程智能体的广泛采用进一步表明，即使底层LLM固定，运行时框架对智能体性能仍起着决定性作用。与手动设计的框架不同，近年来的框架自进化方法[6,7,8,9]使框架能够基于执行反馈自动修改自身代码。通过迭代识别失败并修正框架，该范式为自动优化LLM智能体的运行时框架提供了有前景的方法。

现有框架进化方法通常依赖迭代搜索，基于从任务实例收集的执行反馈反复评估和修改候选框架。虽然该范式能够利用任务反馈持续优化运行时框架，但面临严峻的效率和泛化挑战。每次框架更新通常需要额外的智能体执行、代码修改和结果验证，导致巨大的训练时间开销。此外，随着进化过程推进，框架可能逐渐针对观测到的任务和特定失败模式过度专业化，导致框架进化出现不良偏差[10,11]，并降低对未见任务的泛化能力[12]。这些局限性表明，有效的框架进化不仅需要收集执行反馈，还需要可靠地解读这些反馈并将其转化为适当的框架修改。

我们识别出可靠的故障归因是框架自进化中的关键挑战。观测到的故障可能源于当前模型的行为，也可能源于系统性的框架缺陷。这一区分至关重要，因为框架进化可能执行针对模型的适应性调整（适应当前模型的特殊性），也可能执行框架层面的系统性修复（解决交互机制中的系统性缺陷）。单个故障提供的证据有限，难以区分这两种情况，单纯收集更多故障也无法解决这一模糊性问题。在缺乏可靠归因的情况下，进化过程可能对观测到的失败模式过拟合，降低对未见任务的泛化能力。因此，我们寻求识别跨任务实例反复出现的失败机制，作为系统性框架修复的更强证据。这引出了以下研究问题：能否利用跨任务实例的失败证据，区分针对模型的适应性调整与系统性框架修复，并指导更通用的框架进化？为解决此问题，我们提出Ecdysis——一个用于进化LLM智能体运行时框架的高效框架。Ecdysis采用批量跨实例故障聚合范式，联合分析来自多个任务实例的失败。它不将故障视为独立的修改信号，而是识别任务间反复出现的失败模式，并优先处理那些为系统性框架缺陷提供更强证据的模式。

为进一步提高故障诊断的可靠性，Ecdysis引入故障驱动协同优化（FDCR）[13,14,15]。不同角色从互补角度检查收集的故障证据，迭代完善潜在故障原因和候选框架修改方案。随后，协调者将这些分析综合成结构化的框架修改规范，减少故障解读的模糊性，提高修改方案的可靠性。通过结合批量跨实例故障分析与多角色诊断，Ecdysis能从每轮训练中提取更具信息量的信号，优先考虑系统性框架修复而非不必要的模型适应性调整，从而在减少端到端训练时间的同时实现更高效的框架进化。

我们在多个LLM和基准测试上系统评估了Ecdysis。实验结果显示，与现有框架进化方法相比，Ecdysis在框架训练速度上最高可提升1.84倍，同时将所生成框架的推理准确率提高18.56%。进一步实验表明，使用Ecdysis训练的框架展现出更强的跨LLM泛化能力，并降低了推理时的token消耗。这些结果证明，可靠的故障诊断能够同时提升运行时框架进化的效率和泛化能力。

我们的贡献总结如下：

• •Ecdysis训练框架：我们提出Ecdysis运行时框架训练框架，通过分析跨任务实例的反复出现失败模式，区分系统性框架缺陷与模型特定行为，并引入故障驱动协同优化（FDCR）生成结构化的框架修改规范。
• •高效且可泛化的框架进化：我们在多个LLM和基准测试上系统评估了Ecdysis。结果表明框架训练效率和智能体推理性能均显著提升，同时具备更强的跨模型泛化能力和更低的token消耗。
• •训练数据筛选的洞察：我们提出了一种故障感知的训练数据选择策略，综合考虑跨任务实例的交互结构和故障机制，优先选择能暴露新执行路径和框架缺陷的任务，同时减少冗余的故障信号。通过聚合跨实例故障，Ecdysis能够识别共性缺陷，用更少但更具诊断价值的训练任务实现更高效的框架进化。我们的实验表明，Ecdysis仅使用四分之一的训练数据即可达到与全量数据训练相当的性能，大幅降低了框架进化的开销。
• •框架进化中模型适应性的实证分析：通过对训练过程的广泛细粒度人工分析，我们识别并量化了故障驱动进化倾向于过度适应模型特定局限性的现象（使用模型适应率指标）。基于此分析，我们建立了理论框架，解释过度模型适应可能导致框架进化漂移并损害跨模型泛化能力，从而阐明Ecdysis实现更强泛化能力的内在机制。

2 相关工作

工具交互、慎思规划和反馈驱动适应等推理时机制已显著增强了LLM智能体的能力[3,16]。基于这些进展，自动优化已从提示词优化[17,18]发展到智能体工作流和自修改智能体程序[19,20,21]。近期，多项研究专门关注运行时框架的进化，利用执行反馈和迭代评估来提出并验证框架修改[22,6,23,24,25,26]。虽然框架最终需通过优化来提升LLM任务性能，但框架进化不应简单地适应每个观测到的失败，因为失败可能反映的是模型局限性而非框架缺陷，从而导致针对模型的适应性调整。因此，Ecdysis将跨独立任务实例的反复出现失败模式视为系统性框架缺陷的更强证据，引导进化方向朝向可复用的行为改进而非特定实例的适应。

3 Ecdysis

3.1 初步分析

运行时框架能显著影响任务性能。在六个Qwen3模型-领域组合中，移除所有框架层后的平均准确率为29.72%，而固定人工配置框架的准确率为50.28%。在每次失败后使用编程智能体串行修改框架仅能达到43.33%，仍低于人工配置的50.28%。这些结果表明运行时框架是一个有意义的优化目标，同时也说明有效的自动框架进化仍然面临挑战。更根本的挑战在于故障归因：观测到的故障可能源于当前模型的行为，也可能源于系统性的框架缺陷。前者导致针对模型的适应性调整，而后者需要框架层面的系统性修复。单个故障提供的证据有限，难以区分这两种情况，而将源于同一框架问题的故障视为独立修改信号也会导致冗余的修改和验证成本。这一区分为框架适应的概念分解提供了动机。

考虑在一轮进化中产生的总框架更新ΔH，由编程智能体发出的一系列独立修改决策组成。每个决策要么适应当前任务模型的局限性，要么修复系统性的框架缺陷，分别贡献于ΔH_model和ΔH_harness。设t∈[0,1]表示这些决策中针对模型适应性调整的比例，则总更新可分解为： ΔH = t·ΔH_model + (1−t)·ΔH_harness, t∈[0,1] 其中t既是模型适应性调整决策的比例，也是总更新中模型适应性调整成分的权重。较大的t能高效解决观测到的失败，但可能对当前模型和训练任务过拟合。我们假设跨不同任务实例反复出现的失败模式比孤立失败为系统性框架缺陷提供了更强证据，因此能够引导适应性调整