论文页面 - TRACE：面向企业LLM知识保留的参数化工具检索的业务规则推理课程

来源：https://huggingface.co/papers/2607.22639

摘要

参数化检索通过为每个API分配一个唯一的虚拟令牌，并训练模型通过约束束搜索生成该令牌，使LLM能够隐式检索工具。ToolSense研究表明，该方案存在两个关键缺陷：训练过程中会破坏参数化工具知识，且其束搜索解码方式对实时部署而言过于缓慢。我们提出TRACE（基于增强思维链与企业规则的工具检索）——一种解决上述脱节问题的两阶段课程方案。阶段1复用ToolSense的多格式记忆SFT，通过LoRA注入工具知识。阶段2是我们的核心贡献：模型经过训练，在生成JSON格式的工具令牌列表之前，先输出思考轨迹；训练数据源自两类数据源——ToolSense中的RRB对以及针对领域专家整理的面向业务规则合成的查询——两者均附有推理轨迹增强。该训练目标在保留阶段1多选题与问答探测精度的同时，支持单束贪婪解码，满足生产环境延迟要求。在涵盖两个企业产品线、总计8300余个工具的企业目录上评估，TRACE阶段2训练不仅保留而且提升了工具理解能力：多选题精度较阶段1提升3.2个百分点，问答探测提升9个百分点。在检索方面，TRACE在领域A上实现约86%的召回率，在领域B上约60%——而基于嵌入的基线性能分别约为27%与52%——两者均采用单束贪婪解码，使其可直接部署至生产延迟要求下。

查看arXiv页面 (https://arxiv.org/abs/2607.22639)查看PDF (https://arxiv.org/pdf/2607.22639)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.22639)

在您的agent中获取此论文：

hf papers read 2607.22639

没有最新的CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

暂无模型链接至此论文

在模型README.md中引用 arxiv.org/abs/2607.22639 即可从此页面链接。

引用此论文的数据集0

暂无数据集链接至此论文

在数据集README.md中引用 arxiv.org/abs/2607.22639 即可从此页面链接。

引用此论文的Spaces0

暂无Space链接至此论文

在Space README.md中引用 arxiv.org/abs/2607.22639 即可从此页面链接。

包含此论文的收藏0

暂无收藏包含此论文

将这篇论文添加到一个收藏 (https://huggingface.co/new-collection) 即可从此页面链接。