token-ordering

标签

Cards List
#token-ordering

Set Diffusion:在自回归与扩散之间插值令牌顺序以实现快速灵活的解码

arXiv cs.LG · 昨天 缓存

Set Diffusion 引入了一类新的语言模型,通过在灵活位置、灵活长度的令牌集合上分解令牌生成,在自回归模型和扩散模型之间进行插值。这使得解码速度更快,令牌排序更灵活,在推理、摘要和无条件生成任务上实现了更好的速度-质量权衡。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈