OPSD-V: 面向后训练少步自回归视频生成器的在线策略自蒸馏

Hugging Face Daily Papers 论文

摘要

OPSD-V 通过使用真实长视频数据作为训练时的时间上下文,提供密集的轨迹级监督,从而增强视觉质量和运动动态,同时不改变推理机制,改进了少步自回归视频扩散模型。

我们提出 OPSD-V,一种用于后训练少步自回归(AR)视频扩散模型的在线策略自蒸馏范式。现有的少步 AR 视频生成器能够以低延迟生成长视频,但在长自回归展开过程中仍存在误差累积和运动动态减弱的问题。OPSD-V 在保留原始少步推理路径的同时减少了长时域退化。其关键思想是在训练中引入真实长视频数据作为时间上下文,并利用这些数据提供密集的轨迹级监督。具体来说,学生模型遵循精确的推理时展开,在生成每个片段时以其自身先前生成的 KV 缓存为条件。与此同时,教师模型在学生模型访问的相同去噪状态下进行评估,但使用更清洁的自回归一致的时间缓存,其中较旧的历史可以被真实视频上下文替换。这就在在线策略 AR 缓存动态下提供了密集的去噪级修正目标,而无需更改采样器、去噪步数或推理时的缓存机制。我们将 OPSD-V 应用于代表性的少步 AR 视频模型,包括 Self-Forcing 和 LongLive。实验表明,在视觉质量、运动动态和 VBenchLong 评分上均有一致的提升。一项包含 10 名参与者、比较 20 个视频对的用户研究表明,在整体偏好判断中,OPSD-V 优于基础模型的比例为 66.0%(排除平局时为 82.5%)。
查看原文
查看缓存全文

缓存时间: 2026/07/10 06:17

论文页面 - OPSD-V:面向后训练少步自回归视频生成器的在线策略自蒸馏

来源:https://huggingface.co/papers/2607.08766

摘要

OPSD-V 通过使用真实长视频数据作为训练期间的时序上下文,为少步自回归视频扩散模型提供密集轨迹级监督,从而提升视觉质量和运动动态,且无需改变推理机制。

我们提出 OPSD-V,一种面向后训练少步自回归(AR)视频扩散模型的在线策略自蒸馏(https://huggingface.co/papers?q=on-policy%20self-distillation)范式。现有少步 AR 视频生成器能够以低延迟生成长视频,但在长时间自回归滚动过程中仍会遭受误差累积(https://huggingface.co/papers?q=error%20accumulation)和运动动态(https://huggingface.co/papers?q=motion%20dynamics)减弱的问题。OPSD-V 在保留原始少步推理路径的同时,减少了长程退化。其关键思想是引入真实长视频数据作为训练期间的时序上下文(https://huggingface.co/papers?q=temporal%20context),并利用其提供密集轨迹级监督(https://huggingface.co/papers?q=dense%20trajectory-level%20supervision)。具体而言,学生模型遵循确切的推理时滚动过程,在每一步生成每个片段时以其自身先前生成的 KV 缓存为条件。与此同时,教师模型在学生模型访问的相同降噪状态(https://huggingface.co/papers?q=denoising%20states)下进行评估,但使用更干净的、与 AR 一致的时序缓存(https://huggingface.co/papers?q=AR-consistent%20temporal%20cache),其中旧历史可以被真实视频上下文替换。这在不改变采样器、降噪步数或推理时缓存机制的前提下,在在线策略的 AR 缓存动态下提供密集的降噪级修正目标。我们将 OPSD-V 应用于代表性的少步 AR 视频模型,包括 Self-Forcing 和 LongLive。实验表明,在视觉质量、运动动态(https://huggingface.co/papers?q=motion%20dynamics)和 VBenchLong(https://huggingface.co/papers?q=VBenchLong)分数方面均有持续改进。一项包含 10 名参与者、比较 20 对视频的用户研究(https://huggingface.co/papers?q=user%20study)显示,在总体偏好判断中,OPSD-V 在 66.0% 的情况下被优先选择(排除平局后为 82.5%)。

查看 arXiv 页面(https://arxiv.org/abs/2607.08766)
查看 PDF(https://arxiv.org/pdf/2607.08766)
项目页面(https://meigen-ai.github.io/OPSD-V/)
GitHub8(https://github.com/MeiGen-AI/OPSD-V)
添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2607.08766)

在您的智能体中获取此论文:

hf papers read 2607.08766

还没有最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型链接此论文

请在模型 README.md 中引用 arxiv.org/abs/2607.08766 以便从此页面链接。

引用此论文的数据集0

没有数据集链接此论文

请在数据集 README.md 中引用 arxiv.org/abs/2607.08766 以便从此页面链接。

引用此论文的 Space0

没有 Space 链接此论文

请在 Space README.md 中引用 arxiv.org/abs/2607.08766 以便从此页面链接。

包含此论文的收藏0

没有收藏包含此论文

请将此论文添加到一个收藏(https://huggingface.co/new-collection)中以便从此页面链接。

相似文章

自回归视频生成的投机解码

Hugging Face Daily Papers

SDVG 将投机解码引入自回归视频扩散,通过图像质量路由器在 MovieGenVideoBench 上实现最高 2.09× 加速,同时保留 95.7% 质量。