block-parallel

标签

Cards List
#block-parallel

DeLS-Spec: 解耦的长短上下文用于并行推测性草拟

arXiv cs.CL · 2026-07-09 缓存

DeLS-Spec通过在DFlash上添加轻量级局部头,将推测性解码中的长上下文和短上下文建模解耦,无需完全重新训练即可实现一致的加速。它仅需要对局部头进行标准的下一个词元预测训练,并在Qwen3基准测试中提高了接受长度。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈