contextual-correction

标签

Cards List
#contextual-correction

用于推测解码的并行草稿的上下文校正

arXiv cs.CL ↗ · 2026-10-12 缓存

提出DCOCO(DFlash上下文校正器),一种轻量级机制,在保持并行草稿生成的同时恢复块内上下文依赖,在四个验证器骨干和十个基准上实现最高达6.6倍的推理加速,并在并发服务场景下显著优于现有方法。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈