LongLive-Plug: 视频生成的一次性蒸馏框架
摘要
LongLive-Plug 是一个一次性蒸馏框架,它学习可重用的 LoRA 适配器用于视频生成模型,实现无需训练、即插即用的部署,适用于各种任务而无需针对每个目标进行重新训练。
查看缓存全文
缓存时间: 2026/09/30 04:18
论文页面 - LongLive-Plug:视频生成的一次性蒸馏框架
来源:https://huggingface.co/papers/2609.38154 发布于 2029年9月29日
·
由 https://huggingface.co/Andyson 提交
Syang (https://huggingface.co/Andyson) 于 9月30日
作者: , , , , , , , , , ,
摘要
视频扩散模型正日益发展为面向多样下游任务的专用模型,而这一发展过程通常包含一个蒸馏阶段,例如用于加速采样或改善长视频生成。每个专用模型通常都需要重复这一阶段。我们提出了 LongLive-Plug,一个一次性蒸馏框架,它能学习基础模型上可复用的LoRA能力,从而实现无需训练、即插即用地部署到兼容的下游模型。这些能力包括单次前向的无分类器引导、少步采样以及用于自回归生成的长上下文误差校正。即使下游模型添加条件分支或扩展输出通道,这些适配器仍保持可复用性。尽管在固定的引导尺度下训练,我们专用的CFG LoRA通过其推理权重提供了文本引导控制。将其与少步LoRA结合,可在下游任务中同时保留少步生成能力和CFG可控性。我们在涵盖三个骨干家族和八个任务类别(包括世界建模、机器人学、编辑和多模态生成)的54个下游模型上验证了该方法的无训练部署能力。该方法可能支持更多兼容模型。因此,每个骨干家族只需蒸馏一次能力,即可在不同目标间复用,无需重新训练。
查看 arXiv 页面 (https://arxiv.org/abs/2609.38154) 查看 PDF (https://arxiv.org/pdf/2609.38154) 项目主页 (https://nvlabs.github.io/LongLive/LongLive-Plug/) GitHub 2.64k (https://github.com/NVlabs/LongLive) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2609.38154)
在您的智能体中获取此论文:
hf papers read 2609.38154
没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型 0
无模型链接此论文 在模型 README.md 中引用 arxiv.org/abs/2609.38154 以从此页面链接。
引用此论文的数据集 0
无数据集链接此论文 在数据集 README.md 中引用 arxiv.org/abs/2609.38154 以从此页面链接。
引用此论文的 Spaces 0
无 Space 链接此论文 在 Space README.md 中引用 arxiv.org/abs/2609.38154 以从此页面链接。
包含此论文的收藏集 0
无收藏集包含此论文 将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从此页面链接。
相似文章
实时长视频生成(GitHub仓库)
NVlabs 发布了 LongLive 2.0,这是一个采用 NVFP4 量化的实时长视频生成并行基础设施,同时支持训练和推理。它达到了 45.7 FPS,并被 ICLR 2026 接收。
LongLive-2.0:用于长视频生成的NVFP4并行基础设施
LongLive-2.0 引入了一种基于NVFP4的并行基础设施,用于长视频生成,在训练上实现了高达2.15倍的加速,推理上实现了1.84倍的加速,5B模型达到了45.7 FPS。
LongLive-RAG:一种通用的检索增强长视频生成框架
LongLive-RAG将长视频生成形式化为检索增强生成问题,利用先前生成潜变量的动态记忆来减少误差积累和身份漂移,在多种自回归骨干网络上提升了生成质量。
Video2LoRA: 视觉-语言模型的参数化视频内化
本文介绍Video2LoRA,一种直接从视频表示预测低秩适配(LoRA)权重的方法,能够在冻结的视觉-语言模型中实现高效的视频处理。它将视觉令牌负载降低最多1500倍,查询TTFT降低6-80倍,同时在视频摘要和字幕生成基准上保持性能。
重新审视长视频效率:帧、像素与前端延迟的联合分配视角
论文提出 LoHi,一个免训练框架,面向视觉语言模型的长视频理解,联合分配帧数、分辨率与前端解码延迟,将稠密低分辨率视频流与稀疏高分辨率帧相结合,在基线基础上将准确率提升最多 10.6 个百分点,并将小时级视频的解码延迟降低最多 7 倍。