编码智能体能否在持续进化中免于遗忘?
摘要
一项实证研究发现,编码智能体在多个软件工程任务上的持续 harness 自进化会导致严重的灾难性遗忘:在 FeatureBench 上进化后,SWE-Bench 性能从 94.0% 骤降至 32.0%,并为未来的持续智能体 harness 进化提供了启示。
查看缓存全文
缓存时间: 2026/11/03 11:37
论文页面 - 编码智能体能否在不遗忘的情况下实现持续演化?
来源:https://huggingface.co/papers/2611.03219
摘要
实证研究表明,在软件工程任务上持续进行 harness 自演化会导致严重的灾难性遗忘:在较晚的演化之后,早期数据集上的性能会急剧下降。
最近,harness 自演化 (https://huggingface.co/papers?q=harness%20self-evolution) 已成为提升智能体性能的一种重要范式。先前的研究表明,演化智能体的 harness (https://huggingface.co/papers?q=agent%20harness) 可以在不修改基础模型参数的情况下有效增强智能体能力。我们发现,现有方法大多只在单一任务上研究智能体演化。而在实际应用中,编码智能体可能需要随时间处理多种任务类型。一个智能体 harness (https://huggingface.co/papers?q=agent%20harness) 能否跨多个任务持续演化而不遭受灾难性遗忘 (https://huggingface.co/papers?q=catastrophic%20forgetting),仍是一个重要的开放性问题。本文通过对持续 harness 自演化 (https://huggingface.co/papers?q=harness%20self-evolution) 的综合实证研究来探讨这一开放性问题。我们将三个软件工程任务数据集组织成六个不同的演化方向,并采用两种具有代表性的 harness 演化方法,沿这些方向执行持续演化 (https://huggingface.co/papers?q=continual%20evolution)。实验结果表明,在后续数据集上的演化会大幅削弱在先前已见数据集上的性能。例如,使用 DeepSeek-V4-Flash-0731 时,Meta-Harness (https://huggingface.co/papers?q=Meta-Harness) 演化后在 SWE-Bench (https://huggingface.co/papers?q=SWE-Bench) 上的性能提升至 94.0%。然而,在进一步于 FeatureBench (https://huggingface.co/papers?q=FeatureBench) 上进行演化后,其在 SWE-Bench (https://huggingface.co/papers?q=SWE-Bench) 上的性能到第五轮时已降至 32.0%,相对下降达 66%。最后,基于我们的实验发现,总结了几点洞见,为智能体 harness (https://huggingface.co/papers?q=agent%20harness) 的持续自演化提供了方向。代码见 https://github.com/THU-Agent/continual-harness-evolution 。
查看 arXiv 页面 (https://arxiv.org/abs/2611.03219) 查看 PDF (https://arxiv.org/pdf/2611.03219) GitHub 0 (https://github.com/THU-Agent/continual-harness-evolution) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2611.03219)
在你的智能体中获取这篇论文:
hf papers read 2611.03219
还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本文的模型 0
暂无模型链接本文。
在模型 README.md 中引用 arxiv.org/abs/2611.03219 即可从本页面链接它。
引用本文的数据集 0
暂无数据集链接本文。
在数据集 README.md 中引用 arxiv.org/abs/2611.03219 即可从本页面链接它。
引用本文的 Space 0
暂无 Space 链接本文。
在 Space README.md 中引用 arxiv.org/abs/2611.03219 即可从本页面链接它。
包含本文的合集 0
暂无合集包含本文。
将本文添加到合集 (https://huggingface.co/new-collection) 即可从本页面链接它。
相似文章
自演化编码智能体
本文综述了自演化编码智能体,这类智能体通过从先前的编码交互中更新框架、记忆、技能、工具或模型来改进其未来行为,并提出了一个分类体系,涵盖演化什么、何时演化以及由哪些软件特定证据驱动。
Socratic-SWE:基于轨迹派生的智能体技能实现自进化编码智能体
Socratic-SWE 提出了一种用于软件工程智能体的闭环自进化框架,该框架利用历史求解轨迹生成针对性修复任务,经过三次迭代后在 SWE-bench Verified 上达到 50.40%。
AgentSWE:编程智能体能构建出你真正想要的智能体吗?
AgentSWE 引入了一个涵盖智能体创建、编辑和优化的基准测试,研究发现目前没有任何被评测的编程智能体能够可靠地交付符合用户需求的智能体,常见的失败模式包括过拟合和空洞的运行时实现。
SWE-Touch:当用户修改代码时对编码智能体的基准测试
介绍了SWE-Touch,一个基准测试框架,它在智能体编码轨迹中注入与用户冲突的编辑,结果表明,尽管当前编码智能体在独立基准测试中表现强劲,但在协作场景中性能显著下降。
SWE-bench Science:编码代理能否解决科学工程任务?
SWE-bench Science 引入了一个仓库级基准,用于评估编码代理在科学软件修复任务中的表现,揭示了失败机制和科学指导的混合效应。