论文页面 - 思维层级束搜索用于推理

来源：https://huggingface.co/papers/2608.08020

摘要

Gambit 通过在固定硬件预算下使用思维层级束搜索，将计算资源动态分配给有前景的推理路径，从而提升了推理模型的效率。

测试时计算扩展 (https://huggingface.co/papers?q=Test-time%20compute%20scaling) 是大型推理模型 (https://huggingface.co/papers?q=large%20reasoning%20models)（LRM）性能提升的主要驱动力，但极端的低效性制约了现有方法，使关键问题从投入多少计算资源转变为如何分配这些资源。我们将测试时推理形式化为在部分轨迹 (https://huggingface.co/papers?q=partial%20trajectories) 上进行的受约束计算分配 (https://huggingface.co/papers?q=constrained%20compute%20allocation) 问题。在固定硬件预算下，现有范式未能主动将计算资源分配给最有前景的部分进展：传统的并行采样 (https://huggingface.co/papers?q=parallel%20sampling) 将各路径独立处理，导致严重的内存瓶颈；而剪枝 (https://huggingface.co/papers?q=subtractive%20pruning) 方法则使硬件资源利用不足，且未能主动且充分地调整输出分布。为克服这种二分局面，我们引入了 Gambit (https://huggingface.co/papers?q=Gambit)，一种执行思维层级束搜索 (https://huggingface.co/papers?q=thought-level%20beam%20search) 的推理算法。通过定期修剪无前景的轨迹并立即从高质量前缀分支，Gambit (https://huggingface.co/papers?q=Gambit) 利用轻量级的评分器探测隐藏状态 (https://huggingface.co/papers?q=hidden%20states)，动态地将计算资源集中到最有前景的推理路径上，同时保持持续的高硬件利用率 (https://huggingface.co/papers?q=hardware%20utilization)。在多个模型和基准测试上的广泛评估表明，Gambit (https://huggingface.co/papers?q=Gambit) 严格优于现有基线。在相同的硬件约束下，我们的方法在 HMMT-24 上实现了高达 +6.7% 的绝对准确率提升，在 AIME-25 上提升了 +3.3%，在轨迹完成速度上提供了超过 2 倍的吞吐量提升，并且与标准并行采样 (https://huggingface.co/papers?q=parallel%20sampling) 相比，总 token 消耗减少了高达 68.5%。

查看 arXiv 页面 (https://arxiv.org/abs/2608.08020) 查看 PDF (https://arxiv.org/pdf/2608.08020) 项目页面 (https://github.com/Dao-AILab/gambit-parallel-reasoning) GitHub (https://github.com/Dao-AILab/gambit-parallel-reasoning) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2608.08020)

在您的代理中获取此论文：

hf papers read 2608\.08020

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型 0

无模型链接此论文

在模型 README.md 中引用 arxiv.org/abs/2608.08020 以从本页面链接。

引用本文的数据集 0

无数据集链接此论文

在数据集 README.md 中引用 arxiv.org/abs/2608.08020 以从本页面链接。

引用本文的 Spaces 0

无 Space 链接此论文

在 Space README.md 中引用 arxiv.org/abs/2608.08020 以从本页面链接。

包含本文的收藏夹 0

无收藏夹包含此论文

将本文添加到收藏夹 (https://huggingface.co/new-collection) 以从本页面链接。