论文页面 - 用于高效自回归视频生成的推测强制

来源：https://huggingface.co/papers/2610.22347

摘要

推测强制通过提前接受 token 草稿并跳过不必要的去噪步骤，在保持输出质量的同时加速少步自回归视频生成。

少步自回归视频生成器 (https://huggingface.co/papers?q=autoregressive%20video%20generators)支持流式生成，但无论每个 token 需要多少细化，它们都会让所有 token 执行到最后一个去噪 (https://huggingface.co/papers?q=denoising)步骤。我们发现，这种统一的计算方式往往没有必要：许多 token 在最初几个步骤中就已经非常接近其最终的完整步数输出，而其他 token 则需要持续细化直到最后。我们提出了推测强制 (https://huggingface.co/papers?q=Speculative%20Forcing)，这一框架将中间的干净样本估计 (https://huggingface.co/papers?q=clean%20estimates)视为草稿，并预测何时可以安全地提前接受各个 token。一旦被接受，token 就会被冻结为最终输出，不再进行任何去噪 (https://huggingface.co/papers?q=denoising)，而其缓存的键和值仍可作为其余 token 的上下文。我们探索了两种可选的验证器 (https://huggingface.co/papers?q=verifier)设计：一种无需训练，依据与干净内容的相似度以及跨步骤的稳定性进行判断；另一种通过学习，读取冻结生成器 (https://huggingface.co/papers?q=frozen%20generator)的中间特征 (https://huggingface.co/papers?q=intermediate%20features)，以估计每个 token 与其完整步数输出之间的剩余差距。在短视频、长视频和世界生成任务中，推测强制 (https://huggingface.co/papers?q=Speculative%20Forcing)在显著减少计算量的同时，保持了完整步数采样的质量。在 LongLive 上，它平均每个 token 仅需约 1.7 个去噪 (https://huggingface.co/papers?q=denoising)步骤，即可达到四步生成器的质量，运行速度提升至 1.5 倍以上，达到 41.7 和 37.8 fps。在 Lingbot-World 2.0 上，尽管相机运动不断改变可见内容，它仍能以每个 token 约 2.5 个去噪 (https://huggingface.co/papers?q=denoising)步骤保持质量，并以 24.5 fps 运行，速度提升至 1.35 倍。

查看 arXiv 页面 (https://arxiv.org/abs/2610.22347)查看 PDF (https://arxiv.org/pdf/2610.22347)项目页面 (https://speculative-forcing.github.io/)GitHub2 (https://github.com/naver-ai/speculative-forcing)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.22347)

在你的智能体中获取这篇论文：

hf papers read 2610\.22347

尚未安装最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用这篇论文的模型0

没有模型链接到这篇论文

在模型的 README.md 中引用 arxiv.org/abs/2610.22347，即可从此页面链接到该模型。

引用这篇论文的数据集0

没有数据集链接到这篇论文

在数据集的 README.md 中引用 arxiv.org/abs/2610.22347，即可从此页面链接到该数据集。

引用这篇论文的 Spaces0

没有 Space 链接到这篇论文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.22347，即可从此页面链接到该 Space。

收录这篇论文的合集1