混合推理智能体

Hugging Face Daily Papers 论文
latent-reasoning llm-agents reinforcement-learning tool-use hybrid-architecture post-training

摘要

论文提出 Hybrid Reasoning Agents（混合推理智能体，简称 HybridAgents），通过轻量级混合链接在潜在推理与文本交互之间动态切换，结合混合监督微调与混合强化学习后训练算法，在 11 个基准上较前沿大语言模型智能体平均提升 10.4%，同时实现 35.5%–54.7% 的词元削减、1.8×–2.6× 的推理加速和 2.7×–3.7× 的成本节省。

我们如何构建一种超越人类语言进行思考、却仍通过语言在外部环境中行动的智能体？现代大语言模型智能体仍然通过文本进行推理和交互，而潜在推理虽然提供了一种高效的内部媒介，却缺乏原生工具访问能力和推理透明度。我们提出混合推理智能体（HybridAgents），将这两个方向连接起来，使其能够在统一的生成过程中动态切换于潜在推理与基于文本的交互之间。在架构上，轻量级的 HybridLink 支持文本模式与潜在模式之间的无缝转换，而智能体的连续工作记忆则在多轮交互中保留无损的混合上下文。这些设计既保留了集成工具的智能体能力，又使潜在思维可以被直接审视。基于这一架构，我们进一步开发了专用于混合推理的后训练算法：HybridSFT 通过教会骨干模型与 HybridLink 协同工作，稳定集成工具的混合生成过程；随后，HybridRL 通过学习何时在潜在空间中思考、何时通过文本行动，进一步提升推理能力。我们在涵盖数学、科学、医学、搜索和智能体推理的 11 项基准测试中，对 3 种模型规模的 HybridAgent 进行了评估。与前沿大语言模型智能体以及涵盖文本方法和潜在方法的智能体框架相比，HybridAgent 持续实现了 10.4% 的性能提升，同时将词元用量减少了 35.5%–54.7%，将推理速度提升至 1.8–2.6 倍，并将成本降至原来的 1/2.7–1/3.7。代码和数据已发布于 https://github.com/togethercomputer/HybridAgent。
查看原文
查看缓存全文

缓存时间: 2026/10/15 07:04

论文页面 - 混合推理智能体

来源：https://huggingface.co/papers/2610.18861

摘要

我们如何构建一种超越人类语言进行思考，却仍通过语言在外部环境中行动的智能体？现代大语言模型智能体仍然通过文本进行推理和交互，而潜在推理虽提供了高效的内部媒介，却缺乏原生工具访问能力和推理透明度。我们通过混合推理智能体 (HybridAgents) 将这两个方向结合起来，使其在统一的生成过程中动态切换于潜在推理与基于文本的交互之间。在架构上，轻量级的 HybridLink 支持文本模式与潜在模式之间的无缝转换，而智能体的连续工作记忆则在多轮交互中无损保留混合上下文。这些设计在保留工具集成式智能体能力的同时，使潜在思维可以被直接检查。在此架构基础上，我们进一步开发了专门用于混合推理的后训练算法：HybridSFT 通过教会骨干模型与 HybridLink 协调配合，稳定集成工具的混合生成过程；随后，HybridRL 通过学习何时在潜在空间中思考、何时通过文本行动，提升推理能力。我们在涵盖数学、科学、医学、搜索和智能体推理的 11 个基准上，对 3 种模型规模的 HybridAgent 进行了评估。与涵盖文本方法和潜在方法的前沿大语言模型智能体及智能体框架相比，HybridAgent 持续实现了 10.4% 的性能提升，同时将词元用量减少了 35.5%-54.7%，推理速度提升至 1.8-2.6 倍，成本降低至原来的 1/2.7-1/3.7。代码和数据可在 https://github.com/togethercomputer/HybridAgent 获取。

查看 arXiv 页面 (https://arxiv.org/abs/2610.18861)查看 PDF (https://arxiv.org/pdf/2610.18861)GitHub20 (https://github.com/togethercomputer/HybridAgent)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.18861)

在你的智能体中获取这篇论文：

hf papers read 2610\.18861

还没有最新版 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型2

togethercomputer/HybridAgent-14B-Agentic 文本生成• 15B• 1 天前更新 • 579 • 4 (https://huggingface.co/togethercomputer/HybridAgent-14B-Agentic)

togethercomputer/HybridAgent-8B-Agentic 文本生成• 8B• 1 天前更新 • 565 • 1 (https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic)

引用这篇论文的数据集3

togethercomputer/HybridAgent-HybridRL 查看器• 1 天前更新 • 12.5k • 41 • 3 (https://huggingface.co/datasets/togethercomputer/HybridAgent-HybridRL)

togethercomputer/HybridAgent-HybridSFT-v1 查看器• 1 天前更新 • 46.5k • 39 • 2 (https://huggingface.co/datasets/togethercomputer/HybridAgent-HybridSFT-v1)

togethercomputer/HybridAgent-HybridSFT-v2 查看器• 1 天前更新 • 54.5k • 37 • 2 (https://huggingface.co/datasets/togethercomputer/HybridAgent-HybridSFT-v2)

引用这篇论文的 Space0

没有链接到这篇论文的 Space

在 Space 的 README.md 中引用 arxiv.org/abs/2610.18861，即可从此页面链接到该 Space。

收录这篇论文的合集0

没有收录这篇论文的合集

将这篇论文添加到合集 (https://huggingface.co/new-collection)，即可从此页面链接到该合集。

相似文章

混合推理Agent：在潜空间中思考、通过文本行动的LLM Agent

Hacker News Top

本文提出了一种LLM Agent架构HybridAgents，它通过轻量级的HybridLink在潜空间推理与文本驱动的行动之间动态切换，并结合HybridSFT与HybridRL后训练，在11个基准测试上实现了10.4%的性能提升，同时显著降低了token消耗、延迟和成本。

斯坦福大学、Together AI、伊利诺伊大学厄巴纳-香槟分校和 Meta 的一篇新论文提出了混合推理智能体。这些 AI 模型主要通过隐藏的内部方式进行思考（速度更快、成本更低），只有在需要使用工具或给出最终答案时才使用普通文本。

Reddit r/LocalLLaMA

斯坦福大学、Together AI、伊利诺伊大学厄巴纳-香槟分校与 Meta 联合提出混合推理智能体，让模型主要通过隐藏的内部推理进行思考（更快、更省），仅在调用工具或给出最终答案时使用显式文本，在数学、科学、医疗等测试上提升约 10%，同时词元数量减半、速度翻倍且成本更低。

PORA：学习何时加强推理对 LLM 智能体更有价值

arXiv cs.AI

PORA 提出了一种配对结果引导的推理分配方法，让 LLM 智能体学习在何种状态与剩余预算下使用长推理更划算，在 BFCL memory 等任务上大幅提升性能并显著节省 token 与模型请求。

HyperThink：面向高效推理的 Text-to-Parameter 超网络

Hugging Face Daily Papers

HyperThink 提出一种 text-to-parameter 超网络方法，通过一次前向传播直接预测 LLM 的参数更新，从而免去长思维链解码，在低延迟场景下显著提升数学与通用推理的准确率-延迟权衡。