论文页面 - LLM-as-a-Verifier：一个通用验证框架

来源：https://huggingface.co/papers/2607.05391

摘要

LLM-as-a-Verifier 引入了一个概率验证框架，该框架可在多个维度上扩展，以提高各种基准测试中解决方案正确性评估和智能体性能。

扩展预训练、后训练和测试时计算已成为提升 LLM 能力的核心范式。在此工作中，我们将验证 (https://huggingface.co/papers?q=verification)（即判断解决方案正确性的能力）视为一个新的扩展轴。为了解锁这一能力并展示其有效性，我们提出了 LLM-as-a-Verifier (https://huggingface.co/papers?q=LLM-as-a-Verifier)，一个通用的验证 (https://huggingface.co/papers?q=verification) 框架，能够为智能体任务 (https://huggingface.co/papers?q=agentic%20tasks) 提供细粒度反馈，且无需额外训练。与标准的 LM 评判器（提示 LLM 为候选解决方案生成离散分数）不同，LLM-as-a-Verifier (https://huggingface.co/papers?q=LLM-as-a-Verifier) 计算评分令牌对数几率 (https://huggingface.co/papers?q=scoring%20token%20logits) 的期望，以生成连续分数 (https://huggingface.co/papers?q=continuous%20scores)。这种概率形式使得验证 (https://huggingface.co/papers?q=verification) 能够在多个维度上扩展：(1) 分数粒度 (https://huggingface.co/papers?q=score%20granularity)、(2) 重复评估 (https://huggingface.co/papers?q=repeated%20evaluation) 和 (3) 标准分解 (https://huggingface.co/papers?q=criteria%20decomposition)。特别地，我们展示了扩展分数粒度能够在正面和负面解决方案之间实现更好的区分，从而产生更校准的比较。此外，通过方差和复杂性降低，扩展重复评估 (https://huggingface.co/papers?q=repeated%20evaluation) 和标准分解 (https://huggingface.co/papers?q=criteria%20decomposition) 一致地提升了验证 (https://huggingface.co/papers?q=verification) 准确性。我们还引入了一种成本高效的排序算法 (https://huggingface.co/papers?q=cost-efficient%20ranking%20algorithm)，利用验证器的连续分数 (https://huggingface.co/papers?q=continuous%20scores) 从候选方案中选择最佳解决方案。LLM-as-a-Verifier (https://huggingface.co/papers?q=LLM-as-a-Verifier) 在 Terminal-Bench V2 (https://huggingface.co/papers?q=Terminal-Bench%20V2)（86.5%）、SWE-Bench Verified (https://huggingface.co/papers?q=SWE-Bench%20Verified)（78.2%）、RoboRewardBench (https://huggingface.co/papers?q=RoboRewardBench)（87.4%）和 MedAgentBench (https://huggingface.co/papers?q=MedAgentBench)（73.3%）上取得了最先进的性能。除了验证 (https://huggingface.co/papers?q=verification)，来自 LLM-as-a-Verifier (https://huggingface.co/papers?q=LLM-as-a-Verifier) 的细粒度信号还可以作为估计任务进展的代理。我们为 Claude Code 构建了一个扩展，使开发人员能够监控和改进他们自己的智能体系统。最后，我们展示了 LLM-as-a-Verifier (https://huggingface.co/papers?q=LLM-as-a-Verifier) 可以为强化学习提供密集反馈，提高了机器人技术和数学推理基准 (https://huggingface.co/papers?q=mathematical%20reasoning%20benchmarks) 上 SAC (https://huggingface.co/papers?q=SAC) 和 GRPO (https://huggingface.co/papers?q=GRPO) 的样本效率。

查看 arXiv 页面 (https://arxiv.org/abs/2607.05391) 查看 PDF (https://arxiv.org/pdf/2607.05391) 项目页面 (https://llm-as-a-verifier.com/) GitHub409 (https://github.com/llm-as-a-verifier/llm-as-a-verifier) 添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2607.05391)

在你的智能体中获取此论文：

hf papers read 2607\.05391

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用该论文的模型 0

没有模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2607.05391 可从此页面关联模型。

引用该论文的数据集 0

没有数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2607.05391 可从此页面关联数据集。

引用该论文的 Space 0

没有 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2607.05391 可从此页面关联 Space。

包含该论文的收藏集 0

没有包含此论文的收藏集

将该论文添加到收藏集 (https://huggingface.co/new-collection) 以从此页面关联。