WorkRover:通过递归环境演化扩展长时程协作智能体训练

Hugging Face Daily Papers 论文

摘要

WorkRover 是一个通过递归环境演化训练长时程协作智能体的框架,引入了因子兼容性回放(Factorial Compatibility Replay)和验证器到轮次的信用分配(Verifier-to-Turn Credit Assignment)以改进训练信号。对 Qwen3.5-35B-A3B 进行后训练得到 WorkRover-35B-A3B,在 JobBench、OfficeQAPro 和 GDPvalv2 基准测试上均取得了显著提升。

构建可扩展的交互式环境对于通过强化学习训练长时程智能体至关重要。这些环境在初始生成后通常需要进一步的测试与完善,而修正任务中的缺陷也可能需要同步更新其工作上下文和验证器。然而,现有的构建流程在支持此类迭代细化并保持各组件一致性方面支持有限。我们提出 WorkRover,一个通过递归环境演化训练长时程协作智能体的框架。其 harness 驱动的合成机制使构建智能体能够联合构建并验证语义一致的工作上下文、可执行任务以及基于证据的验证器,并根据工作区状态和执行反馈灵活调整其行为,而非遵循固定的构建流程。为支持环境演化,我们引入了因子兼容性回放(Factorial Compatibility Replay,FCR),利用 rollout 反馈通过依赖闭合回放评估组件修订的组合,并在保持任务要求和评估约束的前提下,从候选方案中选出经过验证的最小修复。为提供更细粒度的训练信号,我们提出了验证器到轮次的信用分配(Verifier-to-Turn Credit Assignment,VTCA),它以确定性的工作区进度检查信号增强轨迹级 GRPO 优势估计,并基于记录的工具输出和产物依赖关系,将正向进度信用的有界份额分配给前置轮次。使用 WorkRover,我们对 Qwen3.5-35B-A3B 进行后训练得到 WorkRover-35B-A3B,并在多个协作智能体基准上进行了评估。其报告得分在 JobBench 上超过 Qwen3.5-35B-A3B 26.27 个百分点,在 OfficeQA Pro 上超过 29.32 个百分点,在 GDPval v2 上超过 413.25 Elo 分。这些结果表明,WorkRover 为长时程协作智能体的可扩展训练提供了一个有前景的基础。
查看原文
查看缓存全文

缓存时间: 2026/10/14 06:53

论文页面 - WorkRover:通过递归环境演化扩展长时程协作智能体训练

来源:https://huggingface.co/papers/2610.18067 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

扩展交互式环境对于通过强化学习训练长时程智能体至关重要。这些环境在初步生成后通常需要进一步测试和完善,而修复任务中的缺陷也可能需要更新其工作上下文和验证器。然而,现有的构建流程在进行此类迭代细化、同时保持各组件一致性方面支持有限。我们提出 WorkRover,一个通过递归环境演化训练长时程协作智能体的框架。其 harness 驱动的合成机制使构建智能体能够共同构建并验证语义对齐的工作上下文、可执行任务以及基于证据的验证器,并根据工作区状态和执行反馈调整其行动,而非遵循固定的构建工作流。为支持环境演化,我们提出因子兼容性重放(Factorial Compatibility Replay, FCR),该方法利用 rollout 反馈评估组件修订的组合,通过依赖闭合重放,在保持任务要求和评估约束的前提下,从测试的候选中选取最小的已验证修复方案。为提供更细粒度的训练信号,我们提出验证器到轮次的信用分配(Verifier-to-Turn Credit Assignment, VTCA),它在轨迹级 GRPO 优势上叠加来自确定性工作区进度检查的信号,并利用记录的工具输出和产物依赖关系,将有界比例的正向进度信用分配给前置轮次。借助 WorkRover,我们对 Qwen3.5-35B-A3B 进行后训练得到 WorkRover-35B-A3B,并在多个协作智能体基准上进行评估。其报告得分在 JobBench 上超过 Qwen3.5-35B-A3B 26.27 个百分点,在 OfficeQAPro 上超过 29.32 个百分点,在 GDPvalv2 上超过 413.25 Elo 分。这些结果表明,WorkRover 为长时程协作智能体的可扩展训练提供了一个有前景的基础。

查看 arXiv 页面 (https://arxiv.org/abs/2610.18067) 查看 PDF (https://arxiv.org/pdf/2610.18067) 项目页面 (https://workrover.github.io/) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.18067)

在你的智能体中获取本文:

hf papers read 2610.18067

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 0

没有模型链接到本文

在模型 README.md 中引用 arxiv.org/abs/2610.18067,即可从此页面链接它。

引用本文的数据集 0

没有数据集链接到本文

在数据集 README.md 中引用 arxiv.org/abs/2610.18067,即可从此页面链接它。

引用本文的 Spaces 0

没有 Space 链接到本文

在 Space README.md 中引用 arxiv.org/abs/2610.18067,即可从此页面链接它。

包含本文的收藏 0

没有收藏包含本文

将本文添加到收藏 (https://huggingface.co/new-collection) 即可从此页面链接它。

相似文章

AutoEnvScaling:利用终端智能体实现数据飞轮自动化

Hugging Face Daily Papers

AutoEnvScaling 将强化学习环境设计视为一项终端任务,让提案智能体根据求解智能体的执行轨迹自动构建训练环境,从而实现数据飞轮的自动化。该方法将有效环境的比例提升至最高 25 倍,同时降低 75% 的成本,使 Qwen 终端智能体的得分最多提高 12.2 分,并让单个模型同时作为求解器和生成器协同演化,向递归式自我改进迈出一步。

扩展面向长周期工作智能体的可验证环境

Hugging Face Daily Papers

论文提出 WorkForge,一个从真实世界资源构建可验证工作智能体训练环境的可扩展合成框架,构建了覆盖 40 个专业领域的 16.7K 个可验证环境,使 Qwen3.5-35B-A3B-Base 在 GDPVal 上从 45.5 提升至 73.6。该论文已被撤稿。