KeyRec:用于流式和长视频理解的有界视觉记忆

Hugging Face Daily Papers 论文

摘要

KeyRec 是一个免训练框架,用于在视觉语言模型中构建有界视觉记忆。它通过近期观测缓存(recent-observation cache)与结构化事件库(event bank)相结合,将长视频/流式视频的上下文压缩至仅约 10% 的稠密视觉 token 规模,并在 15 项流式与长视频基准测试设置中的 13 项上取得了最优结果。

视觉语言模型正被越来越多地用于理解长视频与持续视频流。然而,稠密视觉 token 会随视频时长不断累积,导致长上下文推理成本极高。现有的免训练视觉 token 选择方法通过保留信息量较大的 token 来降低这一开销,但可能丢失连贯的事件证据,也难以将近期的细粒度观测与长时序历史区分开来。我们提出 KeyRec,一个用于构建有界视觉记忆的免训练框架。在与查询无关的写入阶段(query-agnostic writing),KeyRec 在视觉缓存中保留细粒度的近期观测,并将历史证据组织为结构化事件库。候选事件依据其相对于已存储事件的新颖性被提出,并通过在线的「添加-合并-淘汰」(add--merge--evich)更新机制进行维护。当问题到来时,一个纯文本路由器(router)在近期记忆与事件记忆之间自适应分配固定的读取预算,无需重新处理历史帧。KeyRec 作用于面向模型的视觉嵌入之上,既支持模块化的 encoder--projector 架构 VLM,也支持无 encoder、无 projector 的 NEO-ov 架构。在四个流式与长视频基准、三种 VLM 主干模型的评测中,KeyRec 仅使用稠密 decoder 侧视觉 token 预算的 10%,便在 15 项设置中的 13 项上取得了最优的压缩性能。在实时问题上,它比最强的压缩基线高出 2.21--18.37 分;在六项长视频设置中的五项上取得了最佳的压缩结果;并且在所有 NEO-ov 2B 设置上均表现最优。
查看原文
查看缓存全文

缓存时间: 2026/10/05 20:50

论文页面 - KeyRec:用于流式与长视频理解的有界视觉记忆

来源:https://huggingface.co/papers/2609.32182

摘要

视觉-语言模型越来越多地被用于理解长视频和连续流。然而,密集的视觉 token 会随视频时长不断累积,使得长上下文推理的开销高得惊人。现有的免训练视觉 token 选择方法通过保留有信息量的 token 来降低这一成本,但可能丢失连贯的事件证据,且无法区分近期的细粒度观察与长程历史信息。我们提出 KeyRec,一个用于构建有界视觉记忆的免训练框架。在与 query 无关的写入阶段,KeyRec 将细粒度的近期观察保存在视觉缓存中,并将历史证据组织成结构化的事件库。候选事件依据其相对于已存储事件的新颖性被提出,并通过在线的“添加—合并—淘汰“更新流程进行维护。当问题到来时,一个纯文本路由器在近期记忆和事件记忆之间自适应地分配固定的读出预算,而无需重新处理历史帧。KeyRec 直接在面向模型的视觉嵌入上运行,既支持模块化的 encoder-projector VLM,也支持无 encoder 和无 projector 的 NEO-ov 架构。在四个流式与长视频基准以及三种 VLM 骨干上,KeyRec 仅使用密集 decoder 视觉 token 预算的 10%,就在 15 个设置中的 13 个取得了最佳的压缩性能。在实时问题上,它以 2.21–18.37 分的优势超过最强的压缩基线;在六个长视频设置中的五个上取得了最佳压缩结果;并在所有 NEO-ov2B 设置中均表现最优。

查看 arXiv 页面 (https://arxiv.org/abs/2609.32182) 查看 PDF (https://arxiv.org/pdf/2609.32182) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.32182)

在你的 agent 中获取本文:

hf papers read 2609.32182

还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型 0

暂无关联该论文的模型

在模型的 README.md 中引用 arxiv.org/abs/2609.32182,即可从本页链接到该论文。

引用本文的数据集 0

暂无关联该论文的数据集

在数据集的 README.md 中引用 arxiv.org/abs/2609.32182,即可从本页链接到该论文。

引用本文的 Space 0

暂无关联该论文的 Space

在 Space 的 README.md 中引用 arxiv.org/abs/2609.32182,即可从本页链接到该论文。

包含本文的合集 0

暂无包含本文的合集

将本文添加到合集中,即可从本页链接到该论文。

相似文章

ReToken:一个Token提升视觉语言模型的视觉检索能力

Hugging Face Daily Papers

ReToken引入了一个可学习的检索Token,从预填充的视觉KV缓存中选择与查询相关的稀疏视觉Token,从而提升视觉语言模型在视觉检索任务上的长上下文性能。它在图像和视频基准上均取得了一致的性能提升,同时可在单张H100上实现高效的长视频推理。

面向视频世界模型的可寻址记忆

Hugging Face Daily Papers

本文介绍了WorldTrace,一种无需训练的记忆框架,用于长时程视频世界模型,使压缩缓存保持可寻址;同时引入了LoopBench,一个用于在长时间绕行后进行情景回想的基准测试。它在LoopBench上将时间一致性提升了+15.5%,情景回想提升了+19.5%。

视频世界模型中的记忆(6分钟阅读)

TLDR AI

NVIDIA及其合作者的一项最佳论文研究引入了WorldTrace,这是一个无需训练的框架,通过分配固定的槽位秩位置,使自回归视频世界模型中的压缩记忆保持可寻址,从而实现连贯的长程生成和超越训练视野的长距离回忆。