vocabulary-selection

标签

#vocabulary-selection

基于推测词汇表的推测解码

arXiv cs.CL ↗ · 2026-07-20 缓存

本文提出SpecVocab，一种为推测解码中的草稿模型逐步骤选择词汇子集的方法，实现了更高的接受长度，并相较于EAGLE-3最高提升8.1%的吞吐量。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈