DeOverlay:面向视频叠加物去除的基准与源锚定流模型

Hugging Face Daily Papers 论文

摘要

DeOverlay 提出一种基于源锚定流匹配与可见性归一化时序聚合的视频水印/字幕去除方法,并发布 DVTE-Bench 基准(1,631 对视频、八类文字覆盖),在五项重建与感知指标上显著优于四个基线。

视频叠加物去除旨在恢复被字幕、标题和标志遮挡的场景,同时保留周围内容。现有方法多采用时序传播或基于源条件的生成,但在有用的源信息被遮挡时,往往会残留叠加物并扭曲场景结构。我们提出 DeOverlay,一种源锚定流模型,借助固定的源引导从源隐变量中重建干净视频。具体而言,我们使用区域加权流匹配,沿成对的源到干净路径训练一个共享的速度网络,从而能够从中间状态进行连续修正。为选取局部源线索,我们提出可见性归一化的时序聚合,排除被遮挡的位置并对剩余观测取平均。全局源上下文与编辑区域嵌入则通过加性条件化补充这些线索,同时保留单一的视频 token 序列。为在多种叠加条件下评估场景恢复效果,我们引入 DVTE-Bench,包含横跨八类文字叠加的 1,631 对视频,并配有经 OCR 筛查的干净目标、帧对齐的像素掩码以及统一的评测协议。在完整发布数据上的实验表明,DeOverlay 在全部五项重建与感知指标上均优于四个基线,相比最强的评测基线,Mask LPIPS 和 Mask VFID 分别降低 58.3% 和 70.3%。额外的定性示例进一步展示了对图形标志和贴纸的去除效果。我们将公开完整的基准、评测代码与测试输出。项目主页:https://yahooo-m.github.io/DVTE-Bench/
查看原文
查看缓存全文

缓存时间: 2026/10/20 03:32

论文页面 - DeOverlay:视频叠加内容去除的基准测试与源锚定流程

来源:https://huggingface.co/papers/2610.26081

摘要

DeOverlay 采用源锚定流匹配(source-anchored flow matching)和可见性归一化时序聚合(visibility-normalized temporal aggregation)来去除视频叠加内容,同时保留场景结构,并引入 DVTE-Bench 用于标准化评估。

视频叠加内容去除旨在恢复被字幕、标题和 logo 遮挡的场景,同时保留周围内容。现有方法采用时序传播或源条件生成,但在有效源信息被遮挡时,可能留下残余叠加内容并扭曲场景结构。我们提出 DeOverlay,一个源锚定流模型,通过固定源引导从源潜变量重建干净视频。具体而言,我们在成对的源到干净路径上训练共享速度网络(https://huggingface.co/papers?q=velocity%20network),采用区域加权流匹配(https://huggingface.co/papers?q=region-weighted%20flow%20matching),实现从中间状态的逐步修正。为选择局部源线索,我们开发了可见性归一化时序聚合(https://huggingface.co/papers?q=visibility-normalized%20temporal%20aggregation),排除被遮罩位置并对剩余观测取平均值。全局源上下文和编辑区域嵌入通过加性条件补充这些线索,保留单一视频 token 序列(https://huggingface.co/papers?q=video-token%20sequence)。为评估多种叠加条件下的场景恢复效果,我们引入 DVTE-Bench(https://huggingface.co/papers?q=DVTE-Bench),包含跨八个文本叠加类别的 1,631 对视频,配有 OCR 筛选的干净目标、帧对齐像素遮罩以及统一评估协议。在完整发布数据上的实验表明,DeOverlay 在全部五项重建和感知指标上优于四个基线,相较于最强基线分别将 Mask LPIPS(https://huggingface.co/papers?q=Mask%20LPIPS)和 Mask VFID(https://huggingface.co/papers?q=Mask%20VFID)降低 58.3% 和 70.3%。额外的定性示例展示了图形 logo 和贴纸的去除效果。我们将开放完整的基准数据集、评估代码和测试输出。项目主页:https://yahooo-m.github.io/DVTE-Bench (https://huggingface.co/papers?q=DVTE-Bench)/

查看 arXiv 页面 (https://arxiv.org/abs/2610.26081) · 查看 PDF (https://arxiv.org/pdf/2610.26081) · 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.26081)

在 Agent 中获取此论文:

hf papers read 2610.26081

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型:0

无模型关联此论文

在模型 README.md 中引用 arxiv.org/abs/2610.26081,即可从此页面链接。

引用此论文的数据集:0

无数据集关联此论文

在数据集 README.md 中引用 arxiv.org/abs/2610.26081,即可从此页面链接。

引用此论文的 Spaces:0

无 Space 关联此论文

在 Space README.md 中引用 arxiv.org/abs/2610.26081,即可从此页面链接。

包含此论文的合集:0

无合集包含此论文

将此论文添加到合集 (https://huggingface.co/new-collection),即可从此页面链接。

相似文章

MFVSR:面向视频字幕移除的多风格细粒度基准

Hugging Face Daily Papers

MFVSR 提出一个大规模、多风格的视频字幕移除基准,通过空间解耦的细粒度协议评估修复保真度、区域保持性、时间一致性与可靠性,涵盖3000对视频和16种语言。

StreamErase:迈向超高速流式视频擦除

Hugging Face Daily Papers

StreamErase 实现了亚秒级延迟的实时流式视频物体擦除,通过滑动窗口因果注意力与注意力蒸馏将双向模型的擦除能力迁移到单向流式生成器,在单 GPU 上可达 26 FPS,并提出 LongErase 基准。

FocusVTC:基于自适应分辨率的高效高性能视觉文本压缩

Hugging Face Daily Papers

FocusVTC 通过自适应分辨率打破了视觉文本压缩中的压缩率-性能权衡,借助 REL-SFT 和 GRPO 训练模型在低 DPI 全局视图的基础上选择性增强关键区域,在 RULER、LongBench、MRCR 等长上下文基准上大幅超越 Glyph 等基线,并实现 2.79 倍的在线端到端加速。