SVI-Bench:战略视频智能的动态微世界
摘要
介绍了SVI-Bench,这是一个利用团队运动进行战略视频智能的大规模基准,旨在评估模型在动态场景理解、因果推理、战略模拟和代理综合方面的能力。该基准揭示了一个能力断崖:模型在感知任务上表现良好,但在更高层次的战略推理上急剧下降。
查看缓存全文
缓存时间: 2026/06/02 19:33
论文页面 - SVI-Bench:面向战略视频智能的动态微世界
来源:https://huggingface.co/papers/2605.31529
摘要
战略视频智能需要理解、因果推理和规划能力,而现有基准测试未能充分评估这些能力,导致在复杂认知任务中表现差距显著。
真正的视频智能不仅仅是识别可见内容:它需要推理事件发生的原因、预测不同条件下会发生什么变化,以及决定下一步该做什么。我们将这种从感知经因果推理和模拟到战略规划的进阶过程,称为战略视频智能(SVI)。现有基准测试均未评估这一能力栈:野外视频缺乏针对因果和战略问题的可验证真值,而合成环境则牺牲了真实多智能体系统的复杂性。为填补这一空白,我们引入了 SVI-Bench,这是一个大规模基准测试,利用团队运动作为动态微世界,将现实世界多智能体交互的复杂性(10-22 个智能体在对抗压力下做出协调决策)与明确规则和确定性结果的可验证性相结合。SVI-Bench 包含约 35,000 小时的广播视频、1,500 万个标注动作、15,000 小时的专家解说、23,000 份比赛报告以及涵盖篮球、足球和冰球的 103,000 条结构化统计记录,所有这些均通过一个数据引擎构建,该引擎将原始比赛数据转换为密集且交叉引用的语料库。我们将评估组织为 9 项任务,涵盖一个递进的四大支柱层级:动态场景理解、因果推理、战略模拟和智能体综合。对强大的多模态和智能体基线进行评估后,我们发现一个能力悬崖:模型在感知任务上表现尚可,在细粒度动作问答上达到约 73% 的准确率,但在每个后续认知层级上急剧下降。智能体任务最为困难:当需要自主收集并整合来自 180 万个剪辑的语料库证据时,最强模型仅能达到 5% 的准确率。
查看 arXiv 页面 (https://arxiv.org/abs/2605.31529) 查看 PDF (https://arxiv.org/pdf/2605.31529) 项目页面 (https://svi-bench.github.io/) GitHub0 (https://github.com/Texaser/SVI-Bench) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.31529)
在你的智能体中获取这篇论文:
hf papers read 2605.31529
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型 1
MVP-Group/svi-bench 更新于 1 天前 (https://huggingface.co/MVP-Group/svi-bench)
引用此论文的数据集 1
MVP-Group/SVI-Bench (https://huggingface.co/datasets/MVP-Group/SVI-Bench)
引用此论文的 Space 0
没有 Space 链接此论文
请在 Space 的 README.md 中引用 arxiv.org/abs/2605.31529 以从此页面链接。
包含此论文的收藏 0
没有包含此论文的收藏
将此论文添加到收藏 (https://huggingface.co/new-collection) 以从此页面链接。
相似文章
VGI-BENCH: 探测视频生成模型中的视觉智能
VGI-BENCH 通过27项任务评估视频生成模型中的视觉推理,揭示当前系统在可靠性和自我纠正方面的局限性。
VABench: 通过视觉演示、主动感知和度量控制来测量具身空间智能
VABench 引入了一个基准,通过测试模型在视觉演示和主动感知下观察、推理和行动的能力,来评估模型中的具身空间智能。它表明主动摄像头控制提高了任务成功率,但没有模型能完成长期任务。
Sci-VBench:评估科学领域中知识与推理密集型视频生成
介绍了Sci-VBench,这是一个用于评估跨科学领域知识和推理密集型视频生成的基准,发现视觉真实性尚未转化为可靠的科学和因果正确性。
@samsja19:很棒的基准
介绍 VGI-Bench,这是一个多模态基准测试,通过 550 个人工策划的问题来评估 12 种不同的视觉和视听技能,旨在暴露当今视频基准测试中的不足。
Video-Arena:一个面向时空能力的可扩展智能体视频基准
Video-Arena 引入了一个可扩展的基准,将竞技类游戏转化为对视频中时空世界状态理解与跟踪能力的可验证测试,在原生与工具辅助的智能体协议下对模型进行评估,结果发现两种协议下的模型都难以随时间推移正确更新状态。