WEFT:面向通用智能体的工具使用后训练扩展
摘要
WEFT(Whole-system Evolution For Tool-use Post-Training,全系统演化的工具使用后训练)提出一个通过协同演化环境、任务、智能体运行框架与评测器来扩展智能体工具使用后训练的框架,并报告了交互模式混合、运行框架多样性以及自演化轮次带来的显著基准提升。
查看缓存全文
缓存时间: 2026/10/05 16:49
论文速览 - WEFT:面向通用智能体的工具使用后训练扩展
来源:https://huggingface.co/papers/2609.36887
我们正在分享 WEFT:面向通用智能体的工具使用后训练扩展(WEFT: Scaling Tool-Use Post-Training for General-Purpose Agents)。
扩展工具使用的后训练,仅仅合成可执行环境是不够的。智能体还需要可行的任务、合适的交互设置以及可靠的评估。WEFT(Whole-system Evolution For Tool-use Post-training,面向工具使用的全系统进化) 扩展了完整的智能体交互系统:环境、任务、智能体框架与评估器。它将三个阶段串联起来:构建更丰富的训练交互、通过执行改进系统,以及支撑稳定的后训练。
https://huggingface.co/papers/2609.36887#1-construct-richer-training-interactions1. 构建更丰富的训练交互
WEFT 联合扩展了环境广度、任务复杂度与交互多样性。我们构建了 8,172 个可执行 MCP、64,755 个工具,以及 41,695 个经过验证的原子任务,并将其组合为 11,884 个任务,其中位长度为 20 个原子任务轮次。大多数任务跨越多个 MCP,且超过一半涉及多个领域。
同一个基于真实环境的任务,既可以以完整任务简报的形式交给自主执行(Agentic),也可以由模拟用户逐步引导引入(SimUser)。随后,WEFT 将任务路由到不同的原生框架,包括 ReAct、OpenClaw 和 Hermes,以在保持任务目标、依赖关系、初始状态与完成条件不变的前提下,收集多样的训练轨迹。
在任务集固定的前提下,混合 Agentic 与 SimUser 数据相比仅使用 Agentic,平均使 WEFT-35B-A3B 提升 3.18 个百分点。在固定交互模式混合的前提下,再加入 OpenClaw 与 Hermes,则在 Toolathlon-Verified、AutomationBench 和 Claw-Eval 上进一步获得 平均 9.71 个百分点的提升。这为在难以获取新的可执行、可验证任务时扩充有效训练数据提供了一种途径。
https://huggingface.co/papers/2609.36887#2-improve-the-system-through-execution2. 通过执行改进系统
一次 rollout 失败未必意味着模型出了问题。WEFT 利用工具调用轨迹、checkpoint 结果以及数据库和工作区的变化,来区分策略失败与环境、任务或验证器方面的问题。组件层面的问题会触发针对性修订、依赖关系重新校验,以及评估修订效果并为下一轮提供信息的新 rollout。
在任务集和 rollout 预算固定的前提下,三轮自进化将所选教师轨迹中的工具调用错误率从 1.76% 降低到 0.96%。Toolathlon-Verified、AutomationBench 和 Claw-Eval 分别提升了 5.25、4.33 和 3.65 个百分点。因此,执行过程既提供了策略训练数据,也为改进生成这些数据的系统本身提供了证据。
https://huggingface.co/papers/2609.36887#3-support-stable-post-training-on-long-workflows3. 支撑长时程工作流上的稳定后训练
- 前缀保留采样: 保留已验证的进展,失败的原子任务从其前一轮历史、数据库和工作区重试,而不是丢弃整条轨迹。
- 任务-验证器一致性过滤: 过于严格的验证器可能拒绝正确解,而过于宽松的验证器可能奖励错误或不完整的执行。在 RL 之前,由评分准则引导的 LLM 对试点 rollout 进行独立打分。只有当任务与可执行验证器分数的 Pearson 相关系数和 Spearman 相关系数均满足筛选标准时才予以保留。LLM 仅用于离线过滤,RL 仍然使用可执行奖励。
- 原子轮次信用分配: 比较从相同历史和状态下采样的候选片段,并依据当前原子任务的二元完成结果来分配信用。
MegaMCP 在 rollout 规模上支撑这些流程。它将可复用的工具服务托管在智能体沙箱之外,同时保证每次 rollout 的数据库和工作区私密且可恢复。快照支持重试与分支,无需重放已完成的交互。在 1,000 个任务的实验中,沙箱上传量从 773.5 MiB 降至 34.8 MiB(减少 95.5%)。
https://huggingface.co/papers/2609.36887#results结果
WEFT-8B 和 WEFT-14B 在 BFCL V4、τ2-Bench 和 Claw-Eval 上超越了所有评估过的同规模环境扩展基线。WEFT-14B 相比 Agent-World-14B 分别提升了 6.41、2.23 和 12.27 个百分点。WEFT-35B-A3B 在 Toolathlon-Verified 上达到 45.99%,在 AutomationBench 上达到 26.50%。
其核心思路是扩展生成并使用训练交互的系统:拓宽任务与轨迹的范围、通过执行改进其反馈,并让长时程后训练变得高效而稳定。
论文 (https://arxiv.org/abs/2609.36887) · alphaXiv 图文解读 (https://www.alphaxiv.org/abs/2609.36887#overview)
相似文章
AutoEnvScaling:利用终端智能体实现数据飞轮自动化
AutoEnvScaling 将强化学习环境设计视为一项终端任务,让提案智能体根据求解智能体的执行轨迹自动构建训练环境,从而实现数据飞轮的自动化。该方法将有效环境的比例提升至最高 25 倍,同时降低 75% 的成本,使 Qwen 终端智能体的得分最多提高 12.2 分,并让单个模型同时作为求解器和生成器协同演化,向递归式自我改进迈出一步。
EnvFactory:通过可执行环境合成与鲁棒强化学习扩展工具使用智能体
EnvFactory 自动化创建可执行工具环境和自然的多轮轨迹,用于训练具有智能体强化学习能力的大语言模型,在使用比先前工作更少的环境下,在 BFCLv3 和 MCP-Atlas 等基准测试上取得了优异性能。
通过经验驱动的自适应引导实现代理工具的鲁棒使用
本文介绍了ExpG,一种构建和优化自适应引导的机制,该机制捕捉每个工具的能力边界和最佳实践,使代理能够在多样化的运行时条件下更鲁棒地使用工具。实验表明,在工具选择、工具调用和响应生成方面取得了持续改进,使较小的代理能够超越未使用ExpG的较大代理。
Agent-World:面向演进式通用智能体的现实世界环境合成扩展
# 论文页面 - Agent-World: Scaling Real-World Environment Synthesis for Evolving General Agent Intelligence 来源:[https://huggingface.co/papers/2604.18292](https://huggingface.co/papers/2604.18292) 发布于 4 月 20 日 · 提交者[https://huggingface.co/dongguanting](https://huggingface.co/dongguanting) [](https://huggingface.co/dongguanting) [KABI](https://huggingface.co/donggua
Evoflux: 针对轻量级智能体的可执行工具工作流的推理时演化
Evoflux 在推理时使用进化搜索来修复轻量级语言模型中失败的工具工作流,相比微调方法显著提升了执行可行性。