论文页面 - 用于投机解码的验证感知训练

来源：https://huggingface.co/papers/2608.30135

摘要

验证感知训练通过在训练期间模拟顺序验证并根据接受模式调整损失权重，从而改进用于投机解码的草稿模型。

投机解码 (https://huggingface.co/papers?q=Speculative%20decoding) 通过使用草稿模型 (https://huggingface.co/papers?q=draft%20model) 生成候选词元来加速大语言模型的推理，这些候选词元由目标模型在单次前向传播中进行验证。验证 (https://huggingface.co/papers?q=Verification) 是顺序进行的，并且会丢弃从第一个被拒绝位置开始的所有后续位置，但现有的草稿训练依赖于模仿目标模型的词元级损失，并采用固定的按位置加权，这两种方式都未能体现该特性。我们引入了验证感知训练 (https://huggingface.co/papers?q=Verification-Aware%20Training) (VAT)，这是一个插件式框架，它在每个训练步骤模拟验证 (https://huggingface.co/papers?q=verification) 过程，并将由此产生的接受和拒绝模式转化为监督信号。VAT 包括两个组成部分：(i) 一个验证头 (https://huggingface.co/papers?q=verification%20head)，这是一个轻量级的联合训练的二元分类器，用于监督草稿模型 (https://huggingface.co/papers?q=draft%20model) 判断每个位置是否能在顺序验证 (https://huggingface.co/papers?q=verification) 中存活；(ii) 验证自适应加权 (https://huggingface.co/papers?q=verification-adaptive%20weighting)，它替代了固定的加权策略，在每个样本的第一个拒绝点之前保持完整权重，并将衰减重新锚定从此处开始。VAT 仅修改训练目标，因此它可以叠加在现有方法之上，而无需更改草稿模型架构、目标模型或推理过程。VAT 应用于 Qwen3-4B、Qwen3-8B 和 LLaMA-3.1-8B 上的 EAGLE-3 (https://huggingface.co/papers?q=EAGLE-3) 和 DFlash (https://huggingface.co/papers?q=DFlash)，将平均接受长度提高了多达 11.4%，墙钟时间加速提高了多达 8.7%，在数学、代码和聊天基准测试中均带来了一致的增益。代码将发布在 https://github.com/naver-ai/vat

查看 arXiv 页面 (https://arxiv.org/abs/2608.30135) 查看 PDF (https://arxiv.org/pdf/2608.30135) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2608.30135)

在您的代理中获取本文：

hf papers read 2608.30135

没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型0

没有模型链接到本文

在模型的 README.md 中引用 arxiv.org/abs/2608.30135 以将其从本页链接。

引用本文的数据集0

没有数据集链接到本文

在数据集的 README.md 中引用 arxiv.org/abs/2608.30135 以将其从本页链接。

引用本文的空间0

没有空间链接到本文

在空间的 README.md 中引用 arxiv.org/abs/2608.30135 以将其从本页链接。

包含本文的合集1