KeyFrame-Compass: 面向关键帧条件视频生成的全面评估

Hugging Face Daily Papers 论文

摘要

KeyFrame-Compass 是一个用于关键帧条件视频生成的基准测试和评估框架,旨在评估模型在多样化的设置中再现给定关键帧的同时保持视频质量的能力。

视频生成越来越多地依赖于基于关键帧的工作流程,创作者通过指定一系列参考图像来引导生成。尽管最近的模型支持多关键帧条件,但它们能否在保持整体视频质量的同时忠实地再现指定的关键帧仍不明确。我们提出了 KeyFrame-Compass,这是第一个用于评估关键帧条件视频生成的全面基准。该基准包含 386 个精心挑选的样本,涵盖三个应用领域、两种视频结构、两种提示粒度、两种条件格式和四种关键帧密度,从而能够在多样化的生成设置下进行受控分析。我们还引入了一个自动评估框架,联合衡量关键帧执行和整体视频质量。具体来说,我们将关键帧执行分解为六个互补指标,涵盖存在性、保真度、时间顺序、定位、持久性和唯一性,同时通过基于证据的 MLLM 判断(辅以专门的感知模型)来评估整体视频质量。对九个代表性视频生成系统的实验揭示了几个基本限制。当前模型在忠实的关键帧执行和自然的视频合成之间表现出明显的权衡。随着关键帧约束变得更密集,它们的性能进一步下降,而且大多数开源模型也无法将故事板网格输入解释为按时间顺序排列的关键帧序列。
查看原文
查看缓存全文

缓存时间: 2026/07/20 09:43

论文页面 - KeyFrame-Compass:迈向关键帧条件视频生成的全面评估

来源:https://huggingface.co/papers/2607.14202
作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

视频生成越来越依赖基于关键帧的工作流程,创作者通过指定一系列参考图像来引导生成过程。尽管最近的模型支持多关键帧条件,但尚不清楚它们是否能在保持整体视频质量的同时,忠实地再现指定的关键帧。我们推出了KeyFrame-Compass,这是首个用于评估关键帧条件视频生成的综合性基准。该基准包含386个精心挑选的样本,涵盖三个应用领域、两种视频结构、两种提示粒度、两种条件格式和四种关键帧密度,从而能够在多样化的生成设置下进行可控分析。我们进一步引入了一个自动化评估框架,可同时衡量关键帧执行情况和整体视频质量。具体而言,我们将关键帧执行分解为六个互补指标,涵盖存在性、保真度、时间顺序、定位、持久性和唯一性;同时通过基于证据的MLLM判断(辅以专门的感知模型)来评估整体视频质量。在九个代表性视频生成系统上的实验揭示了若干基本局限性。当前模型在忠实的关键帧执行与自然的视频合成之间存在明显的权衡。随着关键帧约束变得密集,其性能会进一步下降,并且大多数开源模型也无法将故事板网格输入解释为按时间顺序排列的关键帧序列。

查看 arXiv 页面 (https://arxiv.org/abs/2607.14202) 查看 PDF (https://arxiv.org/pdf/2607.14202) GitHub8 (https://github.com/cactusqq/KeyFrame-Compass) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.14202)

引用此论文的模型0

没有模型关联此论文

请在模型 README.md 中引用 arxiv.org/abs/2607.14202 以从本页面链接。

引用此论文的数据集1

Vickyinmyheart824/KeyFrame-Compass 查看器• 更新于2天前 • 3.34k • 175 • 1 (https://huggingface.co/datasets/Vickyinmyheart824/KeyFrame-Compass)

引用此论文的空间0

没有空间关联此论文

请在空间 README.md 中引用 arxiv.org/abs/2607.14202 以从本页面链接。

包含此论文的收藏夹2

相似文章

CRONOS:评估视频模型中反事实物理一致性的基准

Hugging Face Daily Papers

CRONOS是一个基准测试,通过在保持物理事件类型不变的情况下对视角、场景、物体类别和外观进行干预,来评估视频预测模型的反事实物理一致性。它揭示了当前视频生成器的重大缺陷。