论文页面 - 再思考还是更久思考？面向预算感知推理的选择性验证

来源：https://huggingface.co/papers/2606.19808

测试时推理通常被视为一个简单的旋钮：给模型更多token、要求它验证、或让它重试。但额外的推理并不总是有帮助。它可能修复失败的尝试，但在原本正确的答案上浪费计算资源，甚至可能把一个正确答案翻转成错误答案。

我们将此作为一个部署分配问题来研究：推理系统应该在何时接受其第一个答案，又应该在何时投入额外计算进行验证？

我们提出SEVRA——面向推理分配的选择性验证（Selective Verification for Reasoning Allocation）——一个服务层控制器，用于决定是保留冻结求解器的初始答案，还是调用主动验证。我们使用冻结的Qwen3-4B求解器，记录生成后干预的结果，并从服务层可见的信号（如完成状态、token使用、终结器使用和尝试状态）中训练可恢复性感知的门控。

在多个基准测试中，SEVRA表明选择性验证可以提高可靠性并减少不必要的验证。在MATH500上，它达到76.3%的准确率，而始终验证则为75.5%，同时减少了26.8%的生成后token，并将有害翻转从2.2%降至1.0%。在GSM8K上，它仅验证3.0%的样本，准确率从93.4%提升至94.5%，与始终验证相比减少了**91.2%**的验证token。

然而，故事并非简单的“验证更多“。在数学基准测试上，更长的初始求解与选择性验证表现相当，且实际使用的token更少；而在CommonsenseQA上，始终开启的验证反而有害。这表明验证作为一种恢复和可审计性机制很有用，但并非总是最佳的计算分配方式。

实际得出的结论是：

首先调整初始推理预算。然后在需要显式检查、有限重试、可审计性或回归风险控制时，再使用选择性验证。