ProgAgent:通过程序化训练学习工具编排

Hugging Face Daily Papers 论文

摘要

ProgAgent 提出一个完整的程序化工具调用(PTC)训练框架,通过可验证的长时程任务合成、轻量级 PTC 运行时和两阶段训练配方,显著优于同规模基线,在 LOCA-bench 64k token 状态下达 30.7% 通过率而基线为零。

大语言模型(LLM)在长时程任务中被日益期待能够编排多种工具。现有的智能体通常采用直接工具调用(DTC)方式,即模型按顺序调用工具,而工具的响应会不断累积在模型上下文中,这可能导致上下文腐化和编排崩溃。相比之下,程序化工具调用(PTC)通过可执行代码来调用工具,并将中间结果存储在运行时变量中,而不是不断追加到上下文里。此前的研究主要将 PTC 作为一种推理时优化来探索,但它对智能体训练的价值仍不明确,且合适的可验证训练任务也十分稀缺。在本文中,我们提出了 ProgAgent——一套完整的 PTC 训练体系,包含用于合成可验证长时程任务的流水线、轻量级 PTC 运行时以及两阶段训练配方。仅使用在四种环境规模下实例化的 215 个任务,ProgAgent 在四个基准测试上均取得了比所评估的同规模基线更高的通过率。在 LOCA-bench 上,ProgAgent-14B 在 64k token 的环境状态下达到了 30.7% 的通过率,而这些基线的得分均为零。跨框架实验表明,经 PTC 训练的模型在两种评估接口下均优于经 DTC 训练的模型,说明 PTC 训练的收益不仅局限于特定接口本身。
查看原文
查看缓存全文

缓存时间: 2026/10/15 07:02

论文页面 - ProgAgent:通过程序化训练学习工具编排

来源:https://huggingface.co/papers/2610.14774

摘要

大语言模型(LLM)日益被期望在长时程任务中编排多种工具。现有智能体通常采用直接工具调用(Direct Tool Calling, DTC)方式,即模型按顺序调用工具,而工具的响应会不断累积在模型上下文中,这可能导致上下文退化(context rot)和编排失败。与之相对,程序化工具调用(Programmatic Tool Calling, PTC)通过可执行代码调用工具,并将中间结果存储在运行时变量中,而非追加到上下文里。此前的研究主要将 PTC 作为推理时的优化手段,但其在智能体训练中的益处尚不明确,且适合的可验证训练任务十分稀缺。

在本工作中,我们提出了 ProgAgent,一个完整的 PTC 训练流程,包含一个合成可验证长时程任务的流水线、一个轻量级 PTC 运行时,以及一个两阶段训练方案。仅使用在四种环境规模下实例化的 215 个任务,ProgAgent 在四个基准测试中的通过率均高于规模相当的已评估基线。在 LOCA-bench 上,ProgAgent-14B 在 64k token 的环境状态下取得了 30.7% 的通过率,而这些基线的得分均为零。跨运行环境的实验表明,无论采用哪种评估接口,经过 PTC 训练的模型都优于经过 DTC 训练的模型,这表明 PTC 训练的收益超越了接口本身。

查看 arXiv 页面 (https://arxiv.org/abs/2610.14774) 查看 PDF (https://arxiv.org/pdf/2610.14774) 项目页面 (https://llleoli.github.io/ProgAgent) GitHub (https://github.com/hkust-nlp/ProgAgent) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.14774)

在你的智能体中获取此论文:

hf papers read 2610.14774

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型 0

没有模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2610.14774 即可从此页面链接。

引用此论文的数据集 0

没有数据集链接此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.14774 即可从此页面链接。

引用此论文的 Space 0

没有 Space 链接此论文

在 Space README.md 中引用 arxiv.org/abs/2610.14774 即可从此页面链接。

包含此论文的收藏 0

没有收藏包含此论文

将此论文添加到收藏 (https://huggingface.co/new-collection) 即可从此页面链接。

相似文章

低延迟系统中工具制作与自进化LLM代理

arXiv cs.CL

本文提出了一种方法,将重复的标准操作流程步骤编译为经过验证、有版本管理的工具,在部署前完成,替代推理时的代码生成。在一个配送中心的报警分类系统中,该方法将p50延迟降低了42%,端到端错误率降低了最多53%。

推测性编程工具调用(12分钟阅读)

TLDR AI

本文提出推测性编程工具调用(sPTC),一种优化AI框架中工具调用的技术。它受CPU和大语言模型中推测执行的启发,通过重叠执行与令牌生成来降低延迟。