论文页面 - 当推理收敛时停止：面向推理模型的语义保持型早退机制

来源：https://huggingface.co/papers/2605.17672

摘要

研究人员提出了 PUMA，这是一种利用语义冗余检测来提升大型模型推理效率的框架，能够识别出继续思考不会带来新见解的时刻，从而在保持答案准确性和推理质量的同时减少计算浪费。

Large Reasoning Models (https://huggingface.co/papers?q=Large%20Reasoning%20Models)（LRMs）通过生成长链思维 (https://huggingface.co/papers?q=chains%20of%20thought)（CoT）取得了强劲性能，但常常过度思考——在解决方案已经稳定后仍在继续推理，从而浪费 token 并增加延迟。现有的推理时早期退出方法 (https://huggingface.co/papers?q=early-exit%20methods) 主要依赖答案级信号 (https://huggingface.co/papers?q=answer-level%20signals)（如置信度或尝试答案的一致性）来决定何时停止。然而，这些信号主要反映答案的准备状态，而非推理收敛 (https://huggingface.co/papers?q=reasoning%20convergence)：它们可能在模型完成探索或自我纠正之前触发，导致过早退出，从而降低最终答案的准确性，并使保留的推理链在语义上不完整。我们识别出推理层面的语义冗余 (https://huggingface.co/papers?q=semantic%20redundancy) 作为语义保持型早期退出的补充信号：当连续步骤不再增加新颖进展，而是回到已建立的结论时，推理轨迹很可能已经收敛。基于这一洞察，我们提出了 PUMA，一个即插即用框架，它将轻量级冗余检测器 (https://huggingface.co/papers?q=Redundancy%20Detector) 与答案级验证 (https://huggingface.co/papers?q=answer-level%20verification) 相结合。检测器标记语义冗余的候选退出点，而验证则确认停止是否安全，使 PUMA 能够移除冗余的后续推理，同时保留答案准确性以及连贯的推理前缀。在五个 LRM 和五个具有挑战性的推理基准上，PUMA 实现了平均 26.2% 的 token 减少 (https://huggingface.co/papers?q=token%20reduction)，同时保持了准确性和保留的 CoT 质量。关于代码生成、零样本视觉语言推理以及学习停止策略内化方面的额外实验进一步表明，推理层面的冗余是一种鲁棒、可迁移且可学习的信号，可用于高效推理。我们的代码可在 https://github.com/giovanni-vaccarino/PUMA 获取。

查看 arXiv 页面 (https://arxiv.org/abs/2605.17672)
查看 PDF (https://arxiv.org/pdf/2605.17672)
GitHub2 (https://github.com/giovanni-vaccarino/PUMA)
添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.17672)

在你的代理中获取此论文：

hf papers read 2605.17672

没有最新的 CLI？ curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型

尚无模型链接到此论文

请在模型 README.md 中引用 arxiv.org/abs/2605.17672 以从该页面链接它。

引用此论文的数据集

尚无数据集链接到此论文

请在数据集 README.md 中引用 arxiv.org/abs/2605.17672 以从该页面链接它。

引用此论文的 Spaces

尚无 Space 链接到此论文

请在 Space README.md 中引用 arxiv.org/abs/2605.17672 以从该页面链接它。

包含此论文的收藏

尚无收藏包含此论文

请将此论文添加到收藏 (https://huggingface.co/new-collection) 以从该页面链接它。