cache-updating

标签

Cards List
#cache-updating

Dynamic-dLLM:动态缓存预算与自适应并行解码,实现扩散大语言模型的无训练加速

arXiv cs.CL · 3天前 缓存

本文提出 Dynamic-dLLM,一种无训练框架,通过动态分配缓存更新预算和校准解码阈值来加速扩散大语言模型,在 LLaDA 和 Dream 等模型上实现超过 3 倍的加速,同时保持性能。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈