LiveEdit:迈向基于扩散模型的实时流式视频编辑
摘要
LiveEdit 提出了一种因果、逐帧的流式视频编辑框架,通过三阶段蒸馏流程和面向增强现实的掩码缓存实现了实时性能(12.66 FPS),从而能够进行稳定的长时编辑。
查看缓存全文
缓存时间: 2026/06/30 07:35
论文页面 - LiveEdit: 迈向基于扩散的实时流式视频编辑
来源:https://huggingface.co/papers/2606.26740
摘要
一种新颖的流式视频编辑框架,通过三阶段蒸馏流程和面向AR的掩码缓存,实现了因果、逐帧编辑,具备稳定的长期内容保持和实时响应能力。
流式视频编辑(https://huggingface.co/papers?q=Streaming%20video%20editing)已取得快速发展,但实际部署仍受两大核心问题制约:随时间保持稳定的背景和非编辑区域,以及实现实时交互场景所需的低延迟。与此同时,近期流式视频生成方法大多针对合成任务开发,由于严格的保留要求和区域特定控制,无法直接应用于编辑。在本工作中,我们提出了一种新颖的流式视频编辑(https://huggingface.co/papers?q=streaming%20video%20editing)框架,该框架执行因果、逐帧编辑(https://huggingface.co/papers?q=frame-by-frame%20editing),并具备强大的内容保持(https://huggingface.co/papers?q=content%20preservation)和实时响应(https://huggingface.co/papers?q=real-time%20responsiveness)能力。我们的关键设计是一个三阶段蒸馏流程(https://huggingface.co/papers?q=three-stage%20distillation%20pipeline),逐步将编辑能力从强大的双向基础模型(https://huggingface.co/papers?q=bidirectional%20foundation%20model)转移到高效的单向流式编辑器(https://huggingface.co/papers?q=unidirectional%20streaming%20editor),从而在不牺牲视觉保真度的前提下实现稳定的长期编辑(https://huggingface.co/papers?q=long-horizon%20edits)。为进一步支持实时部署,我们引入了一种面向AR的掩码缓存(https://huggingface.co/papers?q=AR-oriented%20mask%20cache),该缓存在帧间复用区域相关计算,大幅减少冗余处理并加速推理。最后,我们为流式视频编辑(https://huggingface.co/papers?q=streaming%20video%20editing)建立了一个专用基准。广泛评估表明,我们的方法在流式基线中实现了最先进的视觉质量,同时将推理速度(https://huggingface.co/papers?q=inference%20speed)大幅提升至12.66 FPS,使其适用于交互式和增强现实(https://huggingface.co/papers?q=augmented%20reality)应用。
查看 arXiv 页面(https://arxiv.org/abs/2606.26740)查看 PDF(https://arxiv.org/pdf/2606.26740)项目页面(https://arxiv.org/abs/2606.26740)GitHub12(https://github.com/cp-cp/LiveEdit)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2606.26740)
在您的 agent 中获取此论文:
hf papers read 2606.26740
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
没有模型链接到此论文
在模型的 README.md 中引用 arxiv.org/abs/2606.26740 以从本页面链接。
引用此论文的数据集0
没有数据集链接到此论文
在数据集的 README.md 中引用 arxiv.org/abs/2606.26740 以从本页面链接。
引用此论文的 Spaces0
没有 Space 链接到此论文
在 Space 的 README.md 中引用 arxiv.org/abs/2606.26740 以从本页面链接。
包含此论文的收藏集0
没有收藏集包含此论文
将此论文添加到收藏集(https://huggingface.co/new-collection)以从本页面链接。
相似文章
EditaLive! 用于直播的统一角色视频编辑
EditaLive是一个用于实时以人为中心的直播视频编辑的新颖框架,它通过因果生成和蒸馏技术来适应图像动画模型,以实现高效的流式推理。
流式视频编辑与便捷适配
本文介绍了SVEET,一个用于高质量流式视频编辑的框架,它利用预训练的视频扩散模型,实现自动回归编辑,并在单个GPU上实现实时性能。
JoyAI-Video-Edit:基于自回归扩散的实时开放式视频编辑
JoyAI-Video-Edit 是一个具有 160 亿参数的自回归扩散框架,用于实时、开放式视频编辑,可在单个 NVIDIA B200 GPU 上实现约 30 FPS 的 720p 编辑。
一个编辑器,多样编辑:面向多样视频编辑的统一无训练框架
EditVid是一个统一的无训练视频编辑框架,利用稀疏因果记忆、令牌注入和软潜在混合,支持指令引导和主题引导的编辑,实现高保真并在基准测试中优于基线方法。
InfinityEdit:配备轻量级编辑启动适配器的无限视频编辑
InfinityEdit 提出了一种轻量级适配器,用于无限视频编辑,该适配器通过使用历史、时序和编辑注意力模块,实现对流视频帧的连续编辑,并在无界序列上保持稳定性。