通过递归自我重写扩展复杂任务的训练轨迹

Hugging Face Daily Papers 论文

摘要

论文提出了 Recursive Self-Rewrite(RSR)框架,该框架利用单一基础模型(Qwen-3.8-27B)在多种 harness 下发现成功解,并通过 planner-critic-executor 循环将其在通用 harness 下重构为训练轨迹,在监督微调后,terminal-bench 任务上的 pass@3 得到了显著提升。

在困难任务上取得的成功轨迹能为模型改进提供宝贵的监督信号,但专用 harness 引入的一些干预手段在部署阶段往往不可用。我们提出了 Recursive Self-Rewrite(RSR)框架,它使用单一基础模型 Qwen-3.8-27B,在多种 harness 下发现成功解,随后在通用 harness 下将其重构为训练轨迹。其中,planner 负责将解题过程提炼为 runbook,critic 负责筛查 verifier 泄漏与解法泄漏并引导递归式修订,executor 则在全新沙箱中遵循合格的 runbook 执行。在约 3K 个自建 terminal 任务上,三种 harness 共同解决了 759 个任务,比已记录集合中最强的单一 harness 多出 34.3%。RSR 将 2,001 条成功源轨迹扩充为 11,094 条重写后的轨迹,用于监督微调。在这些轨迹上训练的结果优于基础模型以及直接的轨迹 SFT。与基础模型相比,pass@3 在 Terminal-Bench 2 上从 57.0% 提升至 74.2%,在 Terminal-Bench 4 上从 1.5% 提升至 9.1%,在我们自建的 Terminal-Bench Hard 上从 39.0% 提升至 63.0%,在我们的 Software Terminal-Bench 上从 3.0% 提升至 6.0%。Long-Horizon Terminal-Bench 上的过程奖励从 0.21 提升至 0.29。这些结果表明,多样的 harness 辅助经验可以被重构为可复用的能力,供在通用 harness 下运行的模型使用。
查看原文
查看缓存全文

缓存时间: 2026/10/05 04:46

论文页面 - 通过递归自我改写扩展复杂任务的轨迹

来源: https://huggingface.co/papers/2610.02826

摘要

在困难任务上的成功轨迹为模型改进提供了宝贵的监督信号,但专门化的 harness 会引入在部署阶段可能无法获得的干预手段。我们提出 Recursive Self-Rewrite(RSR)框架,该框架仅使用单一基础模型 Qwen-3.8-27B,在多种 harness 下发现成功解法,并在通用 harness 下将它们重构为训练轨迹。其中,planner 将流程提取为 runbook,critic 对 verifier 和 solution 泄漏进行筛查并引导递归修订,executor 则在全新的 sandbox 中遵循合格的 runbook 执行。在约 3K 个自建的终端任务上,三种 harness 共同解决了 759 个任务,比已记录池中最强的单一 harness 多解决 34.3%。RSR 将 2,001 条成功源轨迹扩展为 11,094 条改写后的轨迹,用于有监督微调。在这些轨迹上的训练结果优于基础模型以及直接的轨迹 SFT。与基础模型相比,pass@3 在 Terminal-Bench2 上从 57.0% 提升至 74.2%,在 Terminal-Bench4 上从 1.5% 提升至 9.1%,在我们自建的 Terminal-BenchHard 上从 39.0% 提升至 63.0%,在我们的 Software Terminal-Bench 上从 3.0% 提升至 6.0%。在 Long-Horizon Terminal-Bench 上,过程奖励从 0.21 提升至 0.29。这些结果表明,多样化的 harness 辅助经验可以被重构为可复用的能力,供模型在通用 harness 下使用。

查看 arXiv 页面 (https://arxiv.org/abs/2610.02826) 查看 PDF (https://arxiv.org/pdf/2610.02826) 加入收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.02826)

在你的 agent 中获取这篇论文:

hf papers read 2610.02826

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

没有模型链接到此论文

在模型的 README.md 中引用 arxiv.org/abs/2610.02826,即可从本页链接过去。

引用此论文的数据集 0

没有数据集链接到此论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.02826,即可从本页链接过去。

引用此论文的 Space 0

没有 Space 链接到此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.02826,即可从本页链接过去。

包含此论文的合集 0

没有合集包含此论文

将此论文加入合集 (https://huggingface.co/new-collection),即可从本页链接过去。

相似文章

长时程终端任务的递归合成

Hugging Face Daily Papers

本文介绍了递归合成终端任务(RST),一种递归验证的合成框架,用于大规模生成长时程终端智能体训练数据,共生成37,484个任务,并在终端基准上提升了Qwen3.5模型的表现。

RRSI: 智能体框架的正则化递归自我改进

Hugging Face Daily Papers

本文介绍了针对AI智能体框架的正则化递归自我改进(RRSI),该方法在递归进化过程中应用正则化以防止过拟合,在多个基准测试中展示了性能提升。

递归式 Harness 自我改进

arXiv cs.AI

介绍了递归式 Harness 自我改进(RHI),这是一种通过成对反馈迭代优化 AI 智能体提示级别 Harness 规范的方法,能够在多种机器学习研究任务上将性能提升高达 60%,并将推理成本降低高达 60%。