token-consistency

标签

Cards List
#token-consistency

并行生成草稿,通过深度进行条件化:用于推测解码的相邻因果注入

arXiv cs.LG ↗ · 2026-09-30 缓存

提出DSpine,一种通过网络深度注入相邻因果条件的并行推测解码drafter,在SGLang中实现高效并行执行,较DFlash在Qwen3-8B上平均接受长度提升27.8%、吞吐量提升23.3%。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈