EvaOmni:一个证据接地的音视频推理基准
摘要
EvaOmni 提出了一个证据接地的音视频推理基准,包含 392 个视频和 1,027 个人工标注问答对,要求模型同时返回答案与证据区间,并提出 Coverage Grounded Score 与 Bottleneck Grounded Score 评估推理链;Gemini3.7-Flash 表现最佳,但复杂推理层面的接地定位仍明显不足。
查看缓存全文
缓存时间: 2026/10/21 07:01
论文页面 - EvaOmni:一个面向视听推理的证据锚定基准
来源:https://huggingface.co/papers/2610.28444 作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
EvaOmni 是一个证据锚定(evidence-grounded)的基准,用于评估全模态语言模型(omnimodal language models)能否识别音视频证据并为视听问题构建推理链。
Omni LLMs(https://huggingface.co/papers?q=Omni%20LLMs)能够自然地定位关键的音频与视觉证据,并跨模态整合信息以完成视听推理(https://huggingface.co/papers?q=audiovisual%20reasoning)。现有主要依赖选择题的视听推理基准,往往仅根据答案正确性为模型打分,因此难以评估模型是否真正形成了从证据到正确答案的推理链。此外,文本或单模态捷径可能使模型在不分析必要视听证据的情况下答对问题,进一步削弱了评测基准的可靠性。为了解决这些问题,我们提出了 EvaOmni——一个证据锚定基准(https://huggingface.co/papers?q=evidence-grounded%20benchmark),包含 392 个视频和 1,027 组纯人工标注的问答对,涵盖 15 项能力以及三个层级:检索与定位、基础理解、复杂推理。我们设计了一系列严格的标注流程:由专家标注音频与视觉证据并构建基于视频的干扰项;由人工审核问题是否符合严格的检验标准;最后由模型筛选文本与单模态捷径。除高质量问答对外,我们要求模型同时返回答案与支持性证据区间,以评估完整的推理链。我们提出了覆盖率锚定分数(Coverage Grounded Score)(https://huggingface.co/papers?q=Coverage%20Grounded%20Score)(C.G.)用于衡量模型识别了多少标注证据,以及瓶颈锚定分数(Bottleneck Grounded Score)(https://huggingface.co/papers?q=Bottleneck%20Grounded%20Score)(B.G.)用于惩罚任一模态上较差的时间定位(temporal localization)(https://huggingface.co/papers?q=temporal%20localization)表现;两者均纳入答案正确性评估。在对 7 个开放权重和 17 个专有的 Omni LLMs(https://huggingface.co/papers?q=Omni%20LLMs)的评测中,Gemini3.7-Flash 取得了最高的总体准确率(79.4%)、C.G.(70.8%)和 B.G.(35.1%)。在第 3 层级上,其准确率达到 79.1%,但 B.G. 仅为 12.3%。这些结果表明,即使是最先进的模型在有据可依的视听推理方面仍有提升空间。
查看 arXiv 页面 (https://arxiv.org/abs/2610.28444) 查看 PDF (https://arxiv.org/pdf/2610.28444) GitHub1 (https://github.com/VisionXLab/EvaOmni) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.28444)
在你的 agent 中获取本文:
hf papers read 2610\.28444
还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用本文的模型 0
没有模型关联本文
在模型的 README.md 中引用 arxiv.org/abs/2610.28444,即可从此页面链接到该模型。
引用本文的数据集 1
VisionXLab/EvaOmni-Dataset Viewer • 约 4 小时前更新 • 1.03k (https://huggingface.co/datasets/VisionXLab/EvaOmni-Dataset)
引用本文的 Space 0
没有 Space 关联本文
在 Space 的 README.md 中引用 arxiv.org/abs/2610.28444,即可从此页面链接到该 Space。
包含本文的合集 0
没有合集包含本文
将本文添加到合集 (https://huggingface.co/new-collection)即可从此页面链接到它。
相似文章
OmniVideo-100K:一个通过结构化脚本和证据链进行音视频推理的数据集
OmniVideo-100K介绍了一个自动化的数据引擎,通过实体锚定脚本和线索引导的问答生成来提升音视频推理和时间一致性,在多个基准测试上实现了显著的性能提升。
OmniReasoning:推动视听联合推理的极限
OmniReasoning 提出了 OmniReasoningBench 基准、数据引擎(OmniQA)用于生成 SFT 与 RL 训练集,以及一种模态分解自蒸馏方法(MFSD),最终训练出的 30B-A3B 模型在视听联合推理基准上以两位数的领先幅度超越了 Qwen3-Omni-30B-A3B-Thinking。
OmniCompass:面向全模态视频定位与理解的综合基准
OmniCompass 提出了一个面向全模态视频定位与理解的整体基准,涵盖视觉-语言与音视频两条评测轨道,包含时间定位、空间定位与问答三类任务,并对50个多模态大模型进行了系统评估。研究发现开源模型在音视频理解上仍落后于闭源模型,精确的时间与空间定位对领先模型而言仍具挑战性。
OmniCapBench:面向细粒度音视频字幕的深度结构化评估框架
OmniCapBench 提出一个深度结构化的音视频字幕评估框架,将预测目标从自由文本转为可验证的原子评估单元(实体引用、视觉镜头、音频事件),在 786 个密集标注视频上区分多模态大模型的感知错误,揭示前沿模型长时程音视觉推理能力薄弱。
Open-o3-Video-v2:借助可验证的时空证据进行检索、接地与推理
Open-o3-Video-v2 将视频推理建模为统一的智能体证据接地过程,模型主动识别缺失信息、获取额外观测并将其时空证据写入推理轨迹。基于 Qwen3-VL-4B 骨干,该模型在 V-STaR 上取得 40.4% mAM 和 56.3% mLGM,显著超越基线。