EvaOmni:一个证据接地的音视频推理基准

Hugging Face Daily Papers 论文

摘要

EvaOmni 提出了一个证据接地的音视频推理基准,包含 392 个视频和 1,027 个人工标注问答对,要求模型同时返回答案与证据区间,并提出 Coverage Grounded Score 与 Bottleneck Grounded Score 评估推理链;Gemini3.7-Flash 表现最佳,但复杂推理层面的接地定位仍明显不足。

Omni LLM 能够自然地定位关键的音频和视觉证据,并跨模态整合信息以进行音视频推理。现有的音视频推理基准主要依赖选择题,通常仅根据答案正确性对模型进行评分,这使得评估模型是否真正构建了从证据到正确答案的推理链变得困难。此外,文本或单模态捷径可能让模型无需分析必要的音视频证据即可答对,进一步削弱了评测基准的可靠性。为了解决这些问题,我们提出了 EvaOmni,一个证据接地的基准,包含 392 个视频和 1,027 个纯人工标注的问答对,涵盖 15 项能力和三个层级:检索与定位、基础理解、复杂推理。我们设计了一系列严格的标注流程,由专家标注音频和视觉证据并构建基于视频的干扰项;人工审核问题是否满足严格的检验标准,最后由模型过滤文本和单模态捷径。除了高质量的问答对外,我们要求模型同时返回答案及其支撑的证据区间,以便评估完整的推理链。我们提出 Coverage Grounded Score(C.G.)来衡量模型识别出的标注证据比例,并提出 Bottleneck Grounded Score(B.G.)对任一模态中较差的时间定位进行惩罚;两者均纳入答案正确性的评估。在 7 个开源权重和 17 个闭源 Omni LLM 中,Gemini3.7-Flash 取得了最高的总体准确率(79.4%)、C.G.(70.8%)和 B.G.(35.1%)。在第三层级,其准确率达到 79.1%,但 B.G. 仅为 12.3%。这些结果表明,即使是最先进的模型在接地音视频推理方面仍有较大的提升空间。
查看原文
查看缓存全文

缓存时间: 2026/10/21 07:01

论文页面 - EvaOmni:一个面向视听推理的证据锚定基准

来源:https://huggingface.co/papers/2610.28444 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

EvaOmni 是一个证据锚定(evidence-grounded)的基准,用于评估全模态语言模型(omnimodal language models)能否识别音视频证据并为视听问题构建推理链。

Omni LLMs(https://huggingface.co/papers?q=Omni%20LLMs)能够自然地定位关键的音频与视觉证据,并跨模态整合信息以完成视听推理(https://huggingface.co/papers?q=audiovisual%20reasoning)。现有主要依赖选择题的视听推理基准,往往仅根据答案正确性为模型打分,因此难以评估模型是否真正形成了从证据到正确答案的推理链。此外,文本或单模态捷径可能使模型在不分析必要视听证据的情况下答对问题,进一步削弱了评测基准的可靠性。为了解决这些问题,我们提出了 EvaOmni——一个证据锚定基准(https://huggingface.co/papers?q=evidence-grounded%20benchmark),包含 392 个视频和 1,027 组纯人工标注的问答对,涵盖 15 项能力以及三个层级:检索与定位、基础理解、复杂推理。我们设计了一系列严格的标注流程:由专家标注音频与视觉证据并构建基于视频的干扰项;由人工审核问题是否符合严格的检验标准;最后由模型筛选文本与单模态捷径。除高质量问答对外,我们要求模型同时返回答案与支持性证据区间,以评估完整的推理链。我们提出了覆盖率锚定分数(Coverage Grounded Score)(https://huggingface.co/papers?q=Coverage%20Grounded%20Score)(C.G.)用于衡量模型识别了多少标注证据,以及瓶颈锚定分数(Bottleneck Grounded Score)(https://huggingface.co/papers?q=Bottleneck%20Grounded%20Score)(B.G.)用于惩罚任一模态上较差的时间定位(temporal localization)(https://huggingface.co/papers?q=temporal%20localization)表现;两者均纳入答案正确性评估。在对 7 个开放权重和 17 个专有的 Omni LLMs(https://huggingface.co/papers?q=Omni%20LLMs)的评测中,Gemini3.7-Flash 取得了最高的总体准确率(79.4%)、C.G.(70.8%)和 B.G.(35.1%)。在第 3 层级上,其准确率达到 79.1%,但 B.G. 仅为 12.3%。这些结果表明,即使是最先进的模型在有据可依的视听推理方面仍有提升空间。

查看 arXiv 页面 (https://arxiv.org/abs/2610.28444) 查看 PDF (https://arxiv.org/pdf/2610.28444) GitHub1 (https://github.com/VisionXLab/EvaOmni) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.28444)

在你的 agent 中获取本文:

hf papers read 2610\.28444

还没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型 0

没有模型关联本文

在模型的 README.md 中引用 arxiv.org/abs/2610.28444,即可从此页面链接到该模型。

引用本文的数据集 1

VisionXLab/EvaOmni-Dataset Viewer • 约 4 小时前更新 • 1.03k (https://huggingface.co/datasets/VisionXLab/EvaOmni-Dataset)

引用本文的 Space 0

没有 Space 关联本文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.28444,即可从此页面链接到该 Space。

包含本文的合集 0

没有合集包含本文

将本文添加到合集 (https://huggingface.co/new-collection)即可从此页面链接到它。

相似文章

OmniReasoning:推动视听联合推理的极限

Hugging Face Daily Papers

OmniReasoning 提出了 OmniReasoningBench 基准、数据引擎(OmniQA)用于生成 SFT 与 RL 训练集,以及一种模态分解自蒸馏方法(MFSD),最终训练出的 30B-A3B 模型在视听联合推理基准上以两位数的领先幅度超越了 Qwen3-Omni-30B-A3B-Thinking。

OmniCompass:面向全模态视频定位与理解的综合基准

Hugging Face Daily Papers

OmniCompass 提出了一个面向全模态视频定位与理解的整体基准,涵盖视觉-语言与音视频两条评测轨道,包含时间定位、空间定位与问答三类任务,并对50个多模态大模型进行了系统评估。研究发现开源模型在音视频理解上仍落后于闭源模型,精确的时间与空间定位对领先模型而言仍具挑战性。

OmniCapBench:面向细粒度音视频字幕的深度结构化评估框架

Hugging Face Daily Papers

OmniCapBench 提出一个深度结构化的音视频字幕评估框架,将预测目标从自由文本转为可验证的原子评估单元(实体引用、视觉镜头、音频事件),在 786 个密集标注视频上区分多模态大模型的感知错误,揭示前沿模型长时程音视觉推理能力薄弱。