MatAnyone-E:面向高效高分辨率视频抠图的稀疏记忆传播
摘要
MatAnyone-E 是 MatAnyone 2 的高效扩展版本,用于高分辨率视频抠图。它仅对不确定区域进行高分辨率记忆匹配,并采用轻量级解码器,在保持抠图质量的同时,实现最高 7.4 倍的加速,并将 4K 分辨率下的 GPU 峰值显存占用降至原来的 7.6%。
查看缓存全文
缓存时间: 2026/10/28 05:27
论文页面 - MatAnyone-E:用于高效高分辨率视频抠图的稀疏记忆传播
来源:https://huggingface.co/papers/2610.35724
摘要
MatAnyone-E 通过选择性地对不确定区域执行高分辨率匹配,并使用轻量级解码器,加速高分辨率视频抠图,在保持质量的同时实现大幅提速\。
高分辨率视频抠图 (https://huggingface.co/papers?q=video%20matting)需要保留发丝和柔和的半透明效果等精细细节,同时保持帧间一致性\。基于记忆的方法 (https://huggingface.co/papers?q=Memory-based%20methods)通过将当前帧特征与先前帧中存储的信息进行匹配,实现高质量抠图,但随着分辨率提高,这一过程的计算成本也越来越高\。我们提出 MatAnyone-E,这是 MatAnyone 2 的高效扩展版本,将计算集中于最需要的区域\。我们的方法首先执行低分辨率传播 (https://huggingface.co/papers?q=low-resolution%20propagation),以识别需要进一步细查的不确定区域,以及与这些区域最相关的候选记忆 (https://huggingface.co/papers?q=memory%20candidates)\。随后,仅针对这些区域,使用选定的记忆执行高分辨率匹配 (https://huggingface.co/papers?q=high-resolution%20matching),同时在其他区域复用低分辨率匹配结果\。这一策略既减少了需要精细匹配的位置数量,也缩小了记忆搜索范围,同时保留生成完整透明度蒙版所需的信息\。我们还使用轻量级解码器 (https://huggingface.co/papers?q=lightweight%20decoder)进一步降低生成高分辨率透明度蒙版的成本;该解码器针对实测运行时瓶颈设计,并通过训练复现原始解码器的表征\。实验表明,MatAnyone-E 在保持与 MatAnyone 2 相当的抠图质量的同时,实现了估计 7.4 倍的推理加速 (https://huggingface.co/papers?q=inference%20speedup),并将 4K 分辨率下的峰值 GPU 显存 (https://huggingface.co/papers?q=GPU%20memory)占用降至 MatAnyone 2 的 7.6%\。在单张 NVIDIA H200 GPU 上启用编译优化推理时,其在 1080p 下达到 73.07 FPS,在 4K 下达到 28.62 FPS\。
查看 arXiv 页面 (https://arxiv.org/abs/2610.35724)查看 PDF (https://arxiv.org/pdf/2610.35724)项目页面 (https://shuyun-wang.github.io/projects/MatAnyone-E)GitHub54 (https://github.com/Shuyun-Wang/MatAnyone-E)添加到合集 (https://huggingface.co/login?next=%2Fpapers%2F2610.35724)
引用此论文的模型0
暂无关联此论文的模型
在模型的 README.md 中引用 arxiv.org/abs/2610.35724,即可在此页面建立关联\。
引用此论文的数据集0
暂无关联此论文的数据集
在数据集的 README.md 中引用 arxiv.org/abs/2610.35724,即可在此页面建立关联\。
引用此论文的 Spaces0
暂无关联此论文的 Space
在 Space 的 README.md 中引用 arxiv.org/abs/2610.35724,即可在此页面建立关联\。
收录此论文的合集1
相似文章
SAM2Matting: 通用图像与视频抠图
SAM2Matting 引入了一种从追踪到抠图的框架,通过区域建议桥接和抠图头增强 SAM2 等基础追踪器,即使在仅用图像训练的情况下,也能实现最先进的视频抠图性能,并在多样场景中展现出强大的泛化能力。
FadeMem: 距离感知的记忆整合用于自回归视频扩散
FadeMem 引入了一种距离感知的键值记忆整合机制,将历史视频数据组织成时间层次结构,在固定缓存约束下改进长视频生成。
VideoMaMa++:通过 Preserve-and-Refine Token 实现时间一致的视频抠图
VideoMaMa++ 提出一种掩码引导的扩散式视频抠图框架,通过分离的 RGB/掩码 token 流以及 preserve-and-refine 可学习嵌入,实现跨片段边界的滑窗推理,从而在长视频中保持时间一致性并提升细节精度。
DecMem:面向分钟级一致世界生成的解耦记忆方法
DecMem 提出了一种解耦记忆架构,结合稀疏全局记忆和锚定局部记忆,实现了分钟级一致视频生成,性能优于现有最优方法。
VideoMM:用于高效视频MLLMs的自适应宏微观推理
VideoMM 引入了一种自适应宏微观推理框架,可减少视频MLLMs中的视觉token开销,实现6.13倍的速度提升和7.4%的准确率增益,从而高效地理解长视频。