显式层建模用于视频对象插入与层分解
摘要
本文介绍了TriLayer,一个包含前景-背景-合成三元组的大规模视频数据集,以及DBL-Diffusion,一个用于显式分层视频表示的双分支扩散框架,实现了高保真度的对象插入和层分解。
查看缓存全文
缓存时间: 2026/07/30 01:45
论文页面 - 显式图层建模实现视频对象插入与图层分解
来源:https://huggingface.co/papers/2607.25802
摘要
大多数视频编辑系统仍然缺乏显式的分层视频表示,这限制了其进行逼真合成、对象复用和一致化编辑的能力。这一局限在视频对象插入和视频图层分解任务中尤为突出,由于缺乏显式前景图层监督,现有方法依赖于隐式推理或逐场景优化。我们提出了 TriLayer,一个大规模三元组视频数据集,包含对齐的合成视频、背景视频和前景视频,其中前景图层不仅包含对象外观,还包含相关的视觉特效。这种显式监督使得模型能够直接学习分层视频表示,而非通过隐式推断。基于该数据集,我们提出了 DBL-Diffusion,一个双分支扩散框架,通过共享去噪和跨分支交互,联合建模 RGB 合成结果和 RGBA 前景图层。我们将该框架实例化为两个任务:用于分层对象插入的 DBL-Insert,生成显式 RGBA 图层以实现逼真合成和灵活后期编辑;以及用于视频图层分解的 DBL-Decompose,利用三元组监督恢复前景和背景图层。实验表明,显式图层建模显著提升了插入保真度和分解质量。
查看 arXiv 页面 (https://arxiv.org/abs/2607.25802) 查看 PDF (https://arxiv.org/pdf/2607.25802) GitHub2 (https://github.com/KyujinHan/DBL-Diffusion) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.25802)
在您的智能体中获取该论文:
hf papers read 2607.25802
还没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本论文的模型0
尚无模型关联此论文
请在模型 README.md 中引用 arxiv.org/abs/2607.25802,以从本页面链接该论文。
引用本论文的数据集0
尚无数据集关联此论文
请在数据集 README.md 中引用 arxiv.org/abs/2607.25802,以从本页面链接该论文。
引用本论文的 Spaces0
尚无 Space 关联此论文
请在 Space README.md 中引用 arxiv.org/abs/2607.25802,以从本页面链接该论文。
包含本论文的收藏集0
尚无收藏集包含此论文
请将本论文添加到一个收藏集 (https://huggingface.co/new-collection) 中,以从本页面链接该论文。
相似文章
Vera:一种用于保持内容一致性的分层扩散视频编辑模型
Vera 是一种分层扩散模型,专为视频编辑设计,通过生成编辑层和 Alpha 遮罩来保留源内容,并采用混合 Transformer(Mixture-of-Transformers)架构。
LongE2V: 基于视频扩散模型的长时段事件视频重建、预测与帧插值
LongE2V利用预训练的视频扩散先验,并引入自回归展开、自适应上下文切换、重编码对齐和事件体素密度增强,从稀疏事件流中实现高质量的视频重建、预测和帧插值,优于现有最先进方法。
DreamTraj:通过读取未渲染视频扩散潜变量生成6DoF物体轨迹
DreamTraj通过解码内部视频扩散潜变量,从单个RGB图像和语言指令预测6自由度物体轨迹,在推理时无需视频、深度或CAD模型。它引入了具有细粒度语言-运动标注的MOVE数据集,实现了最先进的性能,同时运行速度比先生成后提取的流水线快4.6倍。
超越像素:从视频先验到4D世界
本文介绍了Latent-to-4D,一种直接从视频扩散潜变量生成4D场景的方法,无需跨生成器重新训练,在几何和时间稳定性上优于级联方法。
VideoChat3: 完全开源的高效且通用的视频理解MLLM
VideoChat3是一个完全开源、高效且通用的以视频为中心的多模态大语言模型,引入了膨胀3D视觉Transformer (I3D-ViT)和自适应帧分辨率用于流式视频感知,以及可扩展的视频数据合成管道,仅用4B参数就实现了卓越性能。