自回归视频生成的投机解码
摘要
SDVG 将投机解码引入自回归视频扩散,通过图像质量路由器在 MovieGenVideoBench 上实现最高 2.09× 加速,同时保留 95.7% 质量。
查看缓存全文
缓存时间: 2026/04/22 06:17
论文页面 - 自回归视频生成的投机解码
来源:https://huggingface.co/papers/2604.17397
摘要
通过基于质量的路由机制,投机解码被适配到自回归视频扩散,在保持高视觉质量的同时实现显著加速。
自回归视频扩散 (https://huggingface.co/papers?q=Autoregressive%20video%20diffusion) 正成为流式视频合成的新范式,步蒸馏 (https://huggingface.co/papers?q=step%20distillation) 是其主要推理加速手段。然而,投机解码 (https://huggingface.co/papers?q=speculative%20decoding)——大语言模型领域的主流加速策略——能否有效迁移到自回归视频生成,仍是一个开放问题,因为视频块是连续的时空张量,没有可用于精确拒绝采样的 token 级分布。我们提出 SDVG,通过用图像质量路由器取代 token 验证,将投机解码引入基于块的自回归视频扩散。一个 1.3B 的草稿模型通过四步去噪 (https://huggingface.co/papers?q=denoising%20steps) 提出候选块;每块经 VAE 解码后,由 ImageReward (https://huggingface.co/papers?q=ImageReward) 采用最差帧聚合 (https://huggingface.co/papers?q=worst-frame%20aggregation) 打分——取每帧奖励的最小值,以捕捉平均会掩盖的单帧伪影。得分高于固定阈值 τ 的块被接受进 14B 目标模型的 KV 缓存 (https://huggingface.co/papers?q=KV%20cache),其余由目标模型重生成。两项额外设计至关重要:首块始终强制拒绝以锚定场景构图;τ 作为单一旋钮,可沿平滑的质量-速度帕累托前沿 (https://huggingface.co/papers?q=Pareto%20frontier) 调节。在 1003 条 MovieGenVideoBench 提示(832×480)上,SDVG 在 τ=−0.7 时保留 98.1% 的目标模型 VisionReward (https://huggingface.co/papers?q=VisionReward) 质量(0.0773 vs. 0.0788),实现 1.59× 加速;在 95.7% 质量保持下可达 2.09× 加速——且始终比纯草稿模型高出 17% 以上。该框架无需训练、无需改动架构,可无缝集成现有自回归视频生成管线。
查看 arXiv 页面 (https://arxiv.org/abs/2604.17397) 查看 PDF (https://arxiv.org/pdf/2604.17397) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2604.17397)
在智能体中获取本文:
hf papers read 2604.17397
未安装最新 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用该论文的模型 0
暂无模型引用该论文
在模型 README.md 中引用 arxiv.org/abs/2604.17397 即可在此显示链接。
引用该论文的数据集 0
暂无数据集引用该论文
在数据集 README.md 中引用 arxiv.org/abs/2604.17397 即可在此显示链接。
引用该论文的 Spaces 0
暂无 Space 引用该论文
在 Space README.md 中引用 arxiv.org/abs/2604.17397 即可在此显示链接。
收录该论文的合集 0
暂无合集收录该论文
将该论文添加到合集 (https://huggingface.co/new-collection) 即可在此显示链接。
相似文章
OPSD-V: 面向后训练少步自回归视频生成器的在线策略自蒸馏
OPSD-V 通过使用真实长视频数据作为训练时的时间上下文,提供密集的轨迹级监督,从而增强视觉质量和运动动态,同时不改变推理机制,改进了少步自回归视频扩散模型。
用于高效自回归视频生成的推测式强制
推测强制通过将中间的干净估计视为草稿并提前接受词元、跳过不必要的去噪步骤,加速少步自回归视频生成,在 LongLive 上以每词元约 1.7 步达到四步生成器的质量,速度提升超过 1.5 倍。
面向长时程自回归视频生成的Rollout-Marginal蒸馏
本文提出了Rollout-Marginal蒸馏(RMD),用于自回归视频扩散模型。其中每个生成的视频块都独立地与块级教师模型进行打分,以避免因不完美的时序上下文而产生的误差累积,随后再通过视频级DMD恢复整体连贯性。据报道,RMD能在远超训练时程的范围内保持高质量视觉效果,并优于视频级DMD基线方法。
@rohanpaul_ai: 空间推测解码(SSD)通过并行预测图像行,将自回归图像模型的速度提升高达13.28倍
空间推测解码(SSD)通过使用小型辅助网络并行预测整行像素,加速了自回归图像模型,实现了高达13.28倍的加速,同时保持了基准性能。
AngelSpec:面向实际场景的高性能推测解码推理
AngelSpec 提出了一个统一的训练与推理框架,用于推测解码,该框架联合优化自回归多 token 预测和块并行扩散草稿模型,以处理异构实际工作负载。在 Hy3 模型系列上的实验显示,相对于自回归解码,加速比高达 2.4 倍,并且吞吐量比 DFlash 高出 11.8%。