confidence-scheduled

标签

Cards List
#confidence-scheduled

DSpark:基于置信度调度的半自回归推测解码

Hugging Face Daily Papers · 2026-07-06 缓存

DSpark 是一个推测解码框架,结合了半自回归草稿生成与置信度调度验证,以加速大语言模型推理,并在高并发场景下提升吞吐量。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈