标签
PRESTO 提出了一种用于扩散推测解码的前缀对齐树状草稿生成框架，在专用扩散草稿模型上实现了高达 1.5 倍的加速，在自推测扩散大语言模型上实现了 1.12 倍的加速。
提出渐进式树形草稿（PTD），一种免训练、模型无关的推测解码方法，利用渐进式树结构和逐步剪枝实现多个草稿路径的并行生成，在各种基准测试上实现高达2倍的加速。
DominoTree引入了一种无训练的最佳优先草稿树用于投机解码，利用Domino的条件（非分解）修正，在Qwen3模型上实现了高达6.6倍的自回归解码加速，并且在所有评估方法中取得了最高的平均接受长度。
JetSpec是一个推测解码框架，结合高效的前向草稿与因果条件化，提升LLM推理速度与接受率，在MATH-500上实现最高9.64倍加速，在对话工作负载上实现4.58倍加速。
本文介绍了 SpecBlock，这是一种块迭代式投机解码方法，通过将路径依赖与高效的草拟相结合来加速大语言模型的推理。与 EAGLE-3 等现有方法相比，它在保持更低草拟成本的同时展示了更高的加速比。