WEFT:面向通用智能体的工具使用后训练扩展

Hugging Face Daily Papers 论文

摘要

WEFT(Whole-system Evolution For Tool-use Post-Training,全系统演化的工具使用后训练)提出一个通过协同演化环境、任务、智能体运行框架与评测器来扩展智能体工具使用后训练的框架,并报告了交互模式混合、运行框架多样性以及自演化轮次带来的显著基准提升。

近期在工具使用后训练扩展方面的尝试,主要集中在可执行环境的合成上,而环境只是更广泛的智能体交互系统的一个组成部分,该系统还包含任务、智能体运行框架(harness)与评测器。然而,单独扩展环境并不能保证模型性能获得相应提升,因为可靠的学习信号依赖于智能体交互系统各组件之间的协调交互。为此,我们提出 WEFT(Whole-system Evolution For Tool-use Post-training,全系统演化的工具使用后训练),它将可扩展的智能体交互系统构建、执行驱动的自演化与稳定的后训练相耦合。WEFT 在环境广度、任务复杂度与交互多样性三个维度上扩展智能体交互系统的构建。执行驱动的自演化迭代地利用执行轨迹与状态证据对失败进行归因,并修改相应的责任组件;新一轮的 rollout 会评估这些修改,并为后续演化轮次提供证据。在规模化稳定后训练方面,WEFT 同时处理优化可靠性与执行可靠性:前缀保持采样(prefix-preserving sampling)保留已验证的进展,原子化轮次信用分配(atomic-turn credit assignment)将学习信号定位到具体环节;而 MegaMCP 则在共享工具服务上的并发 rollout 之间维护隔离且可恢复的状态。在多种模型与基准上进行的大量实验表明,WEFT 在工具使用后训练中是有效的。WEFT-8B 和 WEFT-14B 在 BFCL V4、τ^2-Bench 和 Claw-Eval 上均超越了所有评估过的同规模环境扩展基线。具体而言,WEFT-14B 相比 Agent-World-14B 分别提升了 6.41、2.23 和 12.27 个百分点。WEFT-35B-A3B 进一步将这些增益扩展到更具挑战性的长时程工作流基准上,包括 Toolathlon-Verified 和 AutomationBench。
查看原文
查看缓存全文

缓存时间: 2026/10/05 16:49

论文速览 - WEFT:面向通用智能体的工具使用后训练扩展

来源:https://huggingface.co/papers/2609.36887

我们正在分享 WEFT:面向通用智能体的工具使用后训练扩展(WEFT: Scaling Tool-Use Post-Training for General-Purpose Agents)。

扩展工具使用的后训练,仅仅合成可执行环境是不够的。智能体还需要可行的任务、合适的交互设置以及可靠的评估。WEFT(Whole-system Evolution For Tool-use Post-training,面向工具使用的全系统进化) 扩展了完整的智能体交互系统:环境、任务、智能体框架与评估器。它将三个阶段串联起来:构建更丰富的训练交互、通过执行改进系统,以及支撑稳定的后训练。

https://huggingface.co/papers/2609.36887#1-construct-richer-training-interactions1. 构建更丰富的训练交互

WEFT 联合扩展了环境广度、任务复杂度与交互多样性。我们构建了 8,172 个可执行 MCP、64,755 个工具,以及 41,695 个经过验证的原子任务,并将其组合为 11,884 个任务,其中位长度为 20 个原子任务轮次。大多数任务跨越多个 MCP,且超过一半涉及多个领域。

同一个基于真实环境的任务,既可以以完整任务简报的形式交给自主执行(Agentic),也可以由模拟用户逐步引导引入(SimUser)。随后,WEFT 将任务路由到不同的原生框架,包括 ReAct、OpenClaw 和 Hermes,以在保持任务目标、依赖关系、初始状态与完成条件不变的前提下,收集多样的训练轨迹。

在任务集固定的前提下,混合 Agentic 与 SimUser 数据相比仅使用 Agentic,平均使 WEFT-35B-A3B 提升 3.18 个百分点。在固定交互模式混合的前提下,再加入 OpenClaw 与 Hermes,则在 Toolathlon-Verified、AutomationBench 和 Claw-Eval 上进一步获得 平均 9.71 个百分点的提升。这为在难以获取新的可执行、可验证任务时扩充有效训练数据提供了一种途径。

https://huggingface.co/papers/2609.36887#2-improve-the-system-through-execution2. 通过执行改进系统

一次 rollout 失败未必意味着模型出了问题。WEFT 利用工具调用轨迹、checkpoint 结果以及数据库和工作区的变化,来区分策略失败与环境、任务或验证器方面的问题。组件层面的问题会触发针对性修订、依赖关系重新校验,以及评估修订效果并为下一轮提供信息的新 rollout。

在任务集和 rollout 预算固定的前提下,三轮自进化将所选教师轨迹中的工具调用错误率从 1.76% 降低到 0.96%。Toolathlon-Verified、AutomationBench 和 Claw-Eval 分别提升了 5.25、4.33 和 3.65 个百分点。因此,执行过程既提供了策略训练数据,也为改进生成这些数据的系统本身提供了证据。

https://huggingface.co/papers/2609.36887#3-support-stable-post-training-on-long-workflows3. 支撑长时程工作流上的稳定后训练

  • 前缀保留采样: 保留已验证的进展,失败的原子任务从其前一轮历史、数据库和工作区重试,而不是丢弃整条轨迹。
  • 任务-验证器一致性过滤: 过于严格的验证器可能拒绝正确解,而过于宽松的验证器可能奖励错误或不完整的执行。在 RL 之前,由评分准则引导的 LLM 对试点 rollout 进行独立打分。只有当任务与可执行验证器分数的 Pearson 相关系数和 Spearman 相关系数均满足筛选标准时才予以保留。LLM 仅用于离线过滤,RL 仍然使用可执行奖励。
  • 原子轮次信用分配: 比较从相同历史和状态下采样的候选片段,并依据当前原子任务的二元完成结果来分配信用。

MegaMCP 在 rollout 规模上支撑这些流程。它将可复用的工具服务托管在智能体沙箱之外,同时保证每次 rollout 的数据库和工作区私密且可恢复。快照支持重试与分支,无需重放已完成的交互。在 1,000 个任务的实验中,沙箱上传量从 773.5 MiB 降至 34.8 MiB(减少 95.5%)。

https://huggingface.co/papers/2609.36887#results结果

WEFT-8B 和 WEFT-14B 在 BFCL V4、τ2-Bench 和 Claw-Eval 上超越了所有评估过的同规模环境扩展基线。WEFT-14B 相比 Agent-World-14B 分别提升了 6.41、2.23 和 12.27 个百分点。WEFT-35B-A3B 在 Toolathlon-Verified 上达到 45.99%,在 AutomationBench 上达到 26.50%。

其核心思路是扩展生成并使用训练交互的系统:拓宽任务与轨迹的范围、通过执行改进其反馈,并让长时程后训练变得高效而稳定。

论文 (https://arxiv.org/abs/2609.36887) · alphaXiv 图文解读 (https://www.alphaxiv.org/abs/2609.36887#overview)

相似文章

AutoEnvScaling:利用终端智能体实现数据飞轮自动化

Hugging Face Daily Papers

AutoEnvScaling 将强化学习环境设计视为一项终端任务,让提案智能体根据求解智能体的执行轨迹自动构建训练环境,从而实现数据飞轮的自动化。该方法将有效环境的比例提升至最高 25 倍,同时降低 75% 的成本,使 Qwen 终端智能体的得分最多提高 12.2 分,并让单个模型同时作为求解器和生成器协同演化,向递归式自我改进迈出一步。

通过经验驱动的自适应引导实现代理工具的鲁棒使用

arXiv cs.AI

本文介绍了ExpG,一种构建和优化自适应引导的机制,该机制捕捉每个工具的能力边界和最佳实践,使代理能够在多样化的运行时条件下更鲁棒地使用工具。实验表明,在工具选择、工具调用和响应生成方面取得了持续改进,使较小的代理能够超越未使用ExpG的较大代理。

Agent-World:面向演进式通用智能体的现实世界环境合成扩展

Hugging Face Daily Papers

# 论文页面 - Agent-World: Scaling Real-World Environment Synthesis for Evolving General Agent Intelligence 来源:[https://huggingface.co/papers/2604.18292](https://huggingface.co/papers/2604.18292) 发布于 4 月 20 日 · 提交者[https://huggingface.co/dongguanting](https://huggingface.co/dongguanting) [![](https://cdn-avatars.huggingface.co/v1/production/uploads/61cd4b833dd34ba1985e0753/BfHfrwotoMESpXZOHiIe4.png)](https://huggingface.co/dongguanting) [KABI](https://huggingface.co/donggua