draft-tree

GRAFT 引入了一个用于基于扩散语言模型的推测解码的草稿树构建框架，通过优化边选择和预算分配，实现了相对于自回归解码 2.13 倍至 6.36 倍的加速，同时开销很低。

Graft 是一个无需训练的框架，通过结合剪枝与检索来增强推测解码，从而提高接受率和推理速度。在短上下文基准测试中，其加速比最高可达5.41倍，在Qwen3-235B上相比EAGLE-3的提升最高可达21.8%。