block-size

标签

Cards List
#block-size

BlockPilot: 实例自适应策略学习用于基于扩散的投机解码

Hugging Face Daily Papers · 昨天 缓存

BlockPilot 提出了一种实例自适应策略,用于预测基于扩散的投机解码的最优块大小,从而以最小的开销实现显著的加速。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈