面向一对多时序定位
摘要
本文介绍了一对多时序定位(OMTG)这一新任务,用于从单个文本查询中定位多个不连续的视频片段,同时提供了基准、评估指标、包含56k样本的数据集以及新颖的奖励函数,取得了最新最优的结果,优于Gemini 2.5 Pro和Seed-1.8。
查看缓存全文
缓存时间: 2026/06/05 10:07
论文页面 - 迈向一对多时间定位
来源:https://huggingface.co/papers/2606.06294 发布于 6 月 4 日
·
提交者 https://huggingface.co/insomnia7
XuQi (https://huggingface.co/insomnia7)于 6 月 5 日
摘要
一对多时间定位(One-to-Many Temporal Grounding)通过构建综合性基准、提出新颖奖励函数及改进策略优化,解决了针对单一文本查询定位多个不连续视频片段的挑战。
时间定位(Temporal Grounding, TG)旨在定位与文本查询相对应的视频片段。以往研究主要聚焦于单片段检索。然而,现实场景通常需要针对单一查询定位多个不连续片段——我们将此设置称为一对多时间定位(One-to-Many Temporal Grounding, OMTG)。以往最先进的 MLLMs(多模态大语言模型)针对一对一定位进行了优化,在此场景下表现不佳,往往因缺乏事件基数感知能力而得到近乎为零的分数。为弥补这一差距,我们提出了一套系统解决方案,包含三个关键贡献。首先,我们建立了首个综合性 OMTG 基准,引入了计数准确率(Count Accuracy, C-Acc)和有效时间 F1(Effective Temporal F1, EtF1)作为评估指标。其次,我们通过一个精密的构建流程,整理了一个包含 56k 样本的高质量 OMTG 数据集。第三,我们专门为 OMTG 设计了新颖的时间奖励函数和描述奖励函数。其中,描述奖励利用基于密集视频描述的链式思维推理(Chain-of-Thought reasoning)明确引导策略优化(policy optimization)同时兼顾精确性与完整性。大量实验表明,我们的模型在 OMTG Bench 上达到了 43.65% 的新 SOTA EtF1,分别超越 Gemini 2.5 Pro 和 Seed-1.8 达 15.85% 和 15.61%。
查看 arXiv 页面 (https://arxiv.org/abs/2606.06294) 查看 PDF (https://arxiv.org/pdf/2606.06294) 项目页面 (https://insomniaaac.github.io/OMTG/) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.06294)
在您的代理中获取该论文:
hf papers read 2606.06294
没有最新 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型 0
无模型链接此论文
在模型的 README.md 中引用 arxiv.org/abs/2606.06294 以从此页面链接。
引用此论文的数据集 2
insomnia7/omtg56k 查看器• 更新于约2小时前 • 56.2k • 148 (https://huggingface.co/datasets/insomnia7/omtg56k)
insomnia7/omtg_bench 查看器• 更新于约2小时前 • 287 • 102 (https://huggingface.co/datasets/insomnia7/omtg_bench)
引用此论文的空间 0
无空间链接此论文
在空间的 README.md 中引用 arxiv.org/abs/2606.06294 以从此页面链接。
包含此论文的收藏集 0
无收藏集包含此论文
将此论文添加到一个收藏集 (https://huggingface.co/new-collection) 以从此页面链接。
相似文章
AnyGroundBench: 视觉语言模型中视频定位的专业领域基准
介绍 AnyGroundBench,这是一个面向时空视频定位的领域自适应基准,评估了五个专业领域的15个视觉语言模型,发现当前模型在零样本和上下文学习适应中均失败。
视频中定位万物:重新思考高效生成式时空视频定位
Parallel Tube Decoding 通过消除自回归依赖,实现高效的同步时空视频定位,减少延迟并提高准确性,优于标准方法。
TimeLens2: 通用视频时间定位与多模态大语言模型
TimeLens2 提出了一种使用多模态大语言模型的通用视频时间定位方法,将时间证据视为区间集,在多个基准上取得了最先进的性能。
# Event-STVG:面向长时序事件推理的时空视频定位 (Event-STVG: Spatio-Temporal Video Grounding for Long-Form Event Reasoning)
Event-STVG 提出一个面向长视频事件推理的时空视频定位基准,涵盖足球等 8 个领域、共 4,016 条标注事件;在 10 分钟时长的视频上,现有最强 MLLM 仅取得 5.4% 的 m-vIoU,凸显出长上下文事件推理与多目标定位所面临的显著挑战。
OVO-S-Bench:面向多模态大语言模型流式空间智能的层次化基准测试
OVO-S-Bench 构建了一个全面的人工标注基准测试,涵盖 348 个视频中的 1,680 道问题,用于评估多模态大语言模型的流式空间智能能力。结果显示,即便是表现最佳的模型(Gemini-3.1-Pro)也比人类专家低 27 分。该基准测试揭示了若干关键局限:以他者为中心的空间映射是主要瓶颈,而思维链推理则会放大空间错误。