EventLens:面向视频理解的事件结构强化学习

Hugging Face Daily Papers 论文

摘要

EventLens 提出一种以视觉为中心的强化学习框架,通过事件结构恢复(事件分割、进程判别、多事件关系推理)来训练多模态大模型,实现可验证奖励的 GRPO 训练与多教师在线策略蒸馏,在 Qwen3-VL 上提升时序理解且降低训练成本。

近期的多模态大语言模型(MLLMs)在视频问答任务上取得了强劲表现,但往往无法恢复使视频连贯的时序结构。它们可能混淆相邻事件、遗漏单事件的进程演变,或推断出不合理的跨事件关系。我们将结构化时序理解定义为从视觉证据中恢复事件结构的能力,包括事件边界、单事件进程以及多事件关系。我们认为这一差距源于当前后训练目标与时序推理之间的错配——字幕式的监督允许模型依赖语言捷径而非视觉时序定位。为解决这一问题,我们提出 EventLens,一个以视觉为中心的强化学习框架,通过事件结构恢复来学习视频理解。EventLens 并非重建字幕,而是训练模型在受控扰动下恢复时序结构,例如改变时序粒度、反转事件进程、打乱事件顺序。我们以三级时序本体论将该框架实例化,并推导出三个可验证的任务族:事件分割、进程判别和多事件关系推理。这些任务可获得确定性奖励,从而无需人类偏好标签或奖励模型即可进行任务专用的 GRPO 训练。我们进一步引入多教师在线策略蒸馏(MT-OPD),将多个专用策略整合为统一模型。在 Qwen3-VL 骨干网络上的实验表明,该方法在时序定位和事件敏感推理基准上持续提升,同时保持了通用视频问答的性能。学习曲线进一步表明,与直接混合强化学习优化相比,EventLens 以显著降低的训练成本实现了相当的下游迁移效果。
查看原文
查看缓存全文

缓存时间: 2026/10/14 10:51

论文页面 - EventLens:面向视频理解的事件结构强化学习

来源:https://huggingface.co/papers/2610.16172

摘要

近期的多模态大语言模型(MLLMs)在视频问答任务上取得了强劲的结果,但往往无法还原使视频具有连贯性的时序结构。它们可能会混合相邻事件、遗漏单事件的演进过程,或推断出跨事件的不合理关系。我们将结构化时序理解定义为从视觉证据中还原事件结构的能力,包括事件边界、单事件演进以及多事件关系。我们认为,这一差距源于当前后训练目标与时序推理之间的不匹配:基于描述(caption)的监督允许模型依赖语言捷径,而非真正进行视觉时序定位。为此,我们提出了 EventLens——一个以视觉为中心的强化学习框架,通过事件结构还原来学习视频理解。与重建描述不同,EventLens 训练模型在受控扰动下还原时序结构,例如改变时序粒度、反转演进顺序以及打乱事件顺序。我们用三级时序本体实现了该框架,并推导出三类可验证的任务:事件分割、演进判别和多事件关系推理。这些任务可以提供确定性的奖励,从而无需人类偏好标签或学习得到的奖励模型,即可进行任务专用的 GRPO 训练。我们进一步提出了多教师在线策略蒸馏(MT-OPD),将各专用策略整合为一个统一模型。在 Qwen3-VL 主干模型上的实验表明,该方法在时序定位和事件敏感推理基准上均取得了一致提升,同时保持了通用视频问答的性能。学习曲线还进一步证明,与直接的混合 RL 优化相比,EventLens 在训练成本显著降低的情况下,实现了相当的下游迁移效果。

查看 arXiv 页面 查看 PDF 项目页面 添加到收藏夹

在你的 agent 中获取本文:

hf papers read 2610.16172

没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 0

暂无模型关联到本文

在模型的 README.md 中引用 arxiv.org/abs/2610.16172,即可从此页面链接到该模型。

引用本文的数据集 0

暂无数据集关联到本文

在数据集的 README.md 中引用 arxiv.org/abs/2610.16172,即可从此页面链接到该数据集。

引用本文的 Spaces 0

暂无 Space 关联到本文

在 Space 的 README.md 中引用 arxiv.org/abs/2610.16172,即可从此页面链接到该 Space。

收录本文的合集 0

暂无合集收录本文

将本文添加到合集即可从此页面链接到该合集。

相似文章

VLX-Go:通过多阶段学习与在线策略优化实现鲁棒的具身追踪

Hugging Face Daily Papers

VLX-Go 提出一种视觉-语言航点策略,通过多阶段多模态训练(视觉-语言对齐、多模态推理、追踪专项化)和在线策略优化,显著提升机器人在干扰物环境中跟踪目标人物的成功率,达到 58.22%,并在对比方法中取得最佳的干扰物与模糊场景追踪成绩。

Less from More:从稠密参考中强化稀疏视频推理

Hugging Face Daily Papers

SAVER 提出了一种稠密到稀疏(dense-to-sparse)的强化后训练框架,利用稠密视频视图作为训练时参考来提升稀疏帧下的视频推理能力,仅用 1,250 个时序定位样本即可在多个视频 QA 基准上匹配或超越使用更多帧的 Qwen3.5 基线。

EasyVideoR1:让视频理解的强化学习更简单

Hugging Face Daily Papers

# 论文页面 - EasyVideoR1:让视频理解的强化学习更简单 来源:[https://huggingface.co/papers/2604.16893](https://huggingface.co/papers/2604.16893) ## 摘要 EasyVideoR1 提出了一个高效的视频理解强化学习框架,可提升训练吞吐量,支持多种视频任务,并实现图像-视频联合训练,在多个基准测试上进行全面评估。[可验证奖励强化学习](https://huggingface.co/papers