监督可见状态:在流式视频中将表示学习与视图选择分离
摘要
本文提出可见状态监督(Visible-State Supervision,ViSS)与测试时因果视图搜索(Test-Time Causal View Search,TVS),在流式视频理解中将表示学习与证据选择分离开来,以远更少的处理帧数在 StreamingBench 和 OVO-Bench 上达到最先进精度。
查看缓存全文
缓存时间: 2026/11/02 11:28
论文页面 - 监督可见状态:在流式视频中将表征与视图选择分离
来源:https://huggingface.co/papers/2610.34926 作者:
,
,
,
,
,
,
,
,
,
摘要
可见状态监督(Visible-State Supervision)与测试时因果视图搜索(Test-Time Causal View Search)通过将表征学习与证据选择分离开来改进流式动作识别,以更少的帧数提升准确率。
一个只看过一次的动作与一个看过三次的动作会获得相同动作识别标签,因此这种监督并不要求模型进行计数。在事件顺序、累积方式或关系不同的历史中共享的答案,会使这些差异得不到约束;我们将这种状态称为欠约束(state under-specification)。可见状态监督(https://huggingface.co/papers?q=Visible-State%20Supervision)(ViSS (https://huggingface.co/papers?q=ViSS))通过在基于来源的事件身份、顺序、累积、关系变化以及答案充分性探针上进行训练来解决这一问题;在相同的近期帧接口下,它在 OVO-Bench (https://huggingface.co/papers?q=OVO-Bench) 上优于严格匹配的通用时间监督基线,同时在 StreamingBench (https://huggingface.co/papers?q=StreamingBench) 上保持相当的表现,其中提升最大的是幻觉检测(https://huggingface.co/papers?q=hallucination%20detection))。测试时因果视图搜索(https://huggingface.co/papers?q=Test-Time%20Causal%20View%20Search)(TVS (https://huggingface.co/papers?q=TVS))随后在保持已训练模型不变的情况下调整证据访问方式,按需从近期帧扩展到稀疏事件视图和紧凑历史视图。这两种干预措施将表征与视图选择分离开来:监督尤其有益于幻觉检测(https://huggingface.co/papers?q=hallucination%20detection))和因果推理(https://huggingface.co/papers?q=causal%20reasoning)),访问尤其有益于事件召回(https://huggingface.co/papers?q=event%20recall))和前向推理(https://huggingface.co/papers?q=forward%20reasoning))。二者结合,在 StreamingBench (https://huggingface.co/papers?q=StreamingBench) 和 OVO-Bench (https://huggingface.co/papers?q=OVO-Bench) 上达到了本文所比较的已发表系统中报告的最佳准确率,而处理的帧数仅为穷举选择的一小部分;严格回放表明,与三视图 oracle 之间的大部分剩余差距,来自一个后来被替换掉的正确答案。流式准确率取决于监督要求模型保留什么、推理暴露了哪些证据,以及模型在得到正确答案后是否能将其保持住。
查看 arXiv 页面 (https://arxiv.org/abs/2610.34926) 查看 PDF (https://arxiv.org/pdf/2610.34926) 项目页面 (https://yihaohu0118.github.io/ViSS/) GitHub2 (https://github.com/yihaohu0118/ViSS) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2610.34926)
在你的 agent 中获取本文:
hf papers read 2610\.34926
没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用本文的模型 0
没有模型链接本文。
在模型的 README.md 中引用 arxiv.org/abs/2610.34926 即可从此页面链接它。
引用本文的数据集 0
没有数据集链接本文。
在数据集的 README.md 中引用 arxiv.org/abs/2610.34926 即可从此页面链接它。
引用本文的 Spaces 0
没有 Space 链接本文。
在 Space 的 README.md 中引用 arxiv.org/abs/2610.34926 即可从此页面链接它。
包含本文的合集 0
没有合集包含本文。
将本文添加到合集 (https://huggingface.co/new-collection) 即可从此页面链接它。
相似文章
超越检索:渐进式潜在记忆演化用于流式视频理解
LatentStream 引入了一个渐进式潜在工作记忆框架,该框架内化流式视觉证据以进行连续推理,在视频基准测试中实现了最先进的结果。
@PinzhiHuang: 状态追踪是视频理解的核心支柱:它需要识别实体和事件,并映射它们如何随时间演变…
介绍VSTAT,一个衡量多模态大语言模型在视频中追踪状态能力的新基准,揭示前沿模型在人类认为简单的任务上表现不佳。
多模态视频理解中视觉状态追踪的基准测试
介绍VSTAT,一个用于评估多模态大语言模型(MLLMs)中视觉状态追踪的基准,包含834个片段和1,500个问题。当前MLLMs表现远逊于人类,问题出在视觉感知而非推理上。
OneStreamer:在流式视频交互中统一感知、记忆与主动响应
OneStreamer 提出了一个面向流式视频 LLM 的统一框架,通过 Proactive Hierarchical Caption Memory(主动分层字幕记忆)与 Proactive State Transition Learning(主动状态转移学习)联合学习与查询无关的证据记录与任务响应,其 4B 模型在八个流式视频理解基准上取得了当前最佳结果,并发布了 OneStreamer-1M 数据集。
SVoT: 基于强化学习的状态感知思维可视化空间推理
论文提出了SVoT,一种用于多模态大语言模型(MLLMs)中多跳空间推理的强化学习框架,该框架生成交错、可验证的中间状态和可视化,在涉及多对象交互和数值推理的新基准测试上取得了显著的准确性提升。