Looped语言模型改进组合工具调用
摘要
Looped语言模型通过利用循环计算来增强组合工具调用,在多步任务中提高准确性,同时自适应推理优化了性能和计算成本之间的平衡。研究表明,这些模型对于可靠的智能体系统很有前景。
查看缓存全文
缓存时间: 2026/08/20 04:03
论文页 - 循环语言模型提升组合式工具调用能力
来源:https://huggingface.co/papers/2608.18171
摘要
循环语言模型通过循环计算,能更有效地进行组合式、多步骤的工具调用,同时通过自适应推理平衡准确性与计算成本。
循环语言模型 (https://huggingface.co/papers?q=Looped%20language%20models) 在推理基准测试上展现出良好潜力,但其在智能体工具调用方面的潜力仍很大程度上未被探索。我们在组合式工具调用 (https://huggingface.co/papers?q=compositional%20tool-calling) 场景下研究这个问题。在此类场景中,模型需要协调多次 API 调用、维护中间状态,并在工具交互过程中保持依赖关系。我们在 API-Bank (https://huggingface.co/papers?q=API-Bank)、BFCL (https://huggingface.co/papers?q=BFCL) 和 NESTful (https://huggingface.co/papers?q=NESTful) 上评估了原生和改造后的循环语言模型 (https://huggingface.co/papers?q=looped%20language%20models),对比了在匹配的监督微调策略下训练的循环与非循环模型,并考察了推理时不同循环深度 (https://huggingface.co/papers?q=recurrent%20depth) 的影响。在受控实验中,循环计算通常对组合式、感知依赖的工具调用有益,而对孤立的 API 调用则带来较小且因模型而异的增益。多步骤工具调用 (https://huggingface.co/papers?q=multi-step%20tool%20use) 的准确性通常随循环深度 (https://huggingface.co/papers?q=recurrent%20depth) 增加而提高;然而,自适应推理 (https://huggingface.co/papers?q=adaptive%20inference) 通过仅在需要时分配额外计算,实现了更优的计算性能权衡。我们的结果表明,循环语言模型 (https://huggingface.co/papers?q=looped%20language%20models) 是智能体系统 (https://huggingface.co/papers?q=agentic%20systems) 的一个有前途的架构,这些系统需要可靠的规划、协调以及组合式工具使用工作流的执行。
查看 arXiv 页面 (https://arxiv.org/abs/2608.18171)查看 PDF (https://arxiv.org/pdf/2608.18171)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.18171)
在您的智能体中获取此论文:
hf papers read 2608\.18171
没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
暂无模型链接此论文
在模型的 README.md 中引用 arxiv.org/abs/2608.18171 以从本页链接。
引用此论文的数据集0
暂无数据集链接此论文
在数据集的 README.md 中引用 arxiv.org/abs/2608.18171 以从本页链接。
引用此论文的空间0
暂无空间链接此论文
在空间的 README.md 中引用 arxiv.org/abs/2608.18171 以从本页链接。
包含此论文的收藏集0
暂无收藏集包含此论文
将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从本页链接。
相似文章
循环语言模型提升组合式工具调用能力
本文探讨了循环语言模型如何利用迭代潜在计算提升代理系统中的组合式工具调用,展示了对多步骤API交互的益处。
循环语言模型中循环计算的分配
本文介绍了MixerLoop,一种通过选择性循环语言模型中的混合器组件同时仅应用一次前馈网络来分配循环计算的方法,以在降低计算成本的同时提升性能。
循环语言模型中递归机制为何有效?
本文系统研究了循环语言模型(LoopLMs)中递归机制在何时能发挥作用,发现额外的递归可以提升超出训练时域范围的推理能力,但会削弱知识保持效果,并提出一种结合时间步条件化的通道级历史状态注入方案,作为在可变推理预算下更稳健的设计策略。
迈向循环模型的正确打开方式,第二部分:在不动点处重新思考
这是一篇关于循环/递归语言模型的后续论文,提出从预测反馈中学习深度先验并采用正交输入注入,从而支持截断反向传播、终端 KV 共享,并使强化学习更新提速 2 倍,同时在 100M 到 1.6B 参数规模下全面优于 Huginn 的先验。
具有自适应退出状态选择的循环状态空间语言模型
本文探索了使用Mamba和混合Mamba-Transformer骨干网络的循环(递归)状态空间语言模型,表明其在推理任务上优于非循环基线,并在等参数和等FLOPs预训练下保持竞争力,同时自适应退出状态选择改善了中间深度性能。