block-drafting

标签

Cards List
#block-drafting

视觉并非负担:用于视觉语言模型无损推测解码的单次传递块起草方法

arXiv cs.AI ↗ · 2026-09-02 缓存

本文提出GLANCE,一种用于视觉语言模型无损推测解码的单次传递块起草方法,可实现高达2.93倍的生成加速,同时保持输出不变。

0 人收藏 0 人点赞
#block-drafting

DBLAST:用于随机投机解码的依赖块草拟

arXiv cs.CL ↗ · 2026-08-07 缓存

该预印本介绍了DBLast,一种用于随机投机解码的依赖块草拟器,它利用基于标记位置的低秩潜在混合模型以及面向接受的训练目标,在更高熵解码场景中提高接受草稿长度。基于Qwen3-4B和Qwen3-8B的实验表明,与独立块采样相比,该方法能持续提升接受长度。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈