KeyRec:用于流式和长视频理解的有界视觉记忆
摘要
KeyRec 是一个免训练框架,用于在视觉语言模型中构建有界视觉记忆。它通过近期观测缓存(recent-observation cache)与结构化事件库(event bank)相结合,将长视频/流式视频的上下文压缩至仅约 10% 的稠密视觉 token 规模,并在 15 项流式与长视频基准测试设置中的 13 项上取得了最优结果。
查看缓存全文
缓存时间: 2026/10/05 20:50
论文页面 - KeyRec:用于流式与长视频理解的有界视觉记忆
来源:https://huggingface.co/papers/2609.32182
摘要
视觉-语言模型越来越多地被用于理解长视频和连续流。然而,密集的视觉 token 会随视频时长不断累积,使得长上下文推理的开销高得惊人。现有的免训练视觉 token 选择方法通过保留有信息量的 token 来降低这一成本,但可能丢失连贯的事件证据,且无法区分近期的细粒度观察与长程历史信息。我们提出 KeyRec,一个用于构建有界视觉记忆的免训练框架。在与 query 无关的写入阶段,KeyRec 将细粒度的近期观察保存在视觉缓存中,并将历史证据组织成结构化的事件库。候选事件依据其相对于已存储事件的新颖性被提出,并通过在线的“添加—合并—淘汰“更新流程进行维护。当问题到来时,一个纯文本路由器在近期记忆和事件记忆之间自适应地分配固定的读出预算,而无需重新处理历史帧。KeyRec 直接在面向模型的视觉嵌入上运行,既支持模块化的 encoder-projector VLM,也支持无 encoder 和无 projector 的 NEO-ov 架构。在四个流式与长视频基准以及三种 VLM 骨干上,KeyRec 仅使用密集 decoder 视觉 token 预算的 10%,就在 15 个设置中的 13 个取得了最佳的压缩性能。在实时问题上,它以 2.21–18.37 分的优势超过最强的压缩基线;在六个长视频设置中的五个上取得了最佳压缩结果;并在所有 NEO-ov2B 设置中均表现最优。
查看 arXiv 页面 (https://arxiv.org/abs/2609.32182) 查看 PDF (https://arxiv.org/pdf/2609.32182) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2609.32182)
在你的 agent 中获取本文:
hf papers read 2609.32182
还没有最新版 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本文的模型 0
暂无关联该论文的模型
在模型的 README.md 中引用 arxiv.org/abs/2609.32182,即可从本页链接到该论文。
引用本文的数据集 0
暂无关联该论文的数据集
在数据集的 README.md 中引用 arxiv.org/abs/2609.32182,即可从本页链接到该论文。
引用本文的 Space 0
暂无关联该论文的 Space
在 Space 的 README.md 中引用 arxiv.org/abs/2609.32182,即可从本页链接到该论文。
包含本文的合集 0
暂无包含本文的合集
将本文添加到合集中,即可从本页链接到该论文。
相似文章
基于记忆的推理:一种时间粒度自适应的免训练长视频理解框架
ReMem提出了一种双层记忆增强的关键帧选择框架,用于免训练的长视频理解,在多个基准上实现了最先进的零样本性能。
超越检索:渐进式潜在记忆演化用于流式视频理解
LatentStream 引入了一个渐进式潜在工作记忆框架,该框架内化流式视觉证据以进行连续推理,在视频基准测试中实现了最先进的结果。
ReToken:一个Token提升视觉语言模型的视觉检索能力
ReToken引入了一个可学习的检索Token,从预填充的视觉KV缓存中选择与查询相关的稀疏视觉Token,从而提升视觉语言模型在视觉检索任务上的长上下文性能。它在图像和视频基准上均取得了一致的性能提升,同时可在单张H100上实现高效的长视频推理。
面向视频世界模型的可寻址记忆
本文介绍了WorldTrace,一种无需训练的记忆框架,用于长时程视频世界模型,使压缩缓存保持可寻址;同时引入了LoopBench,一个用于在长时间绕行后进行情景回想的基准测试。它在LoopBench上将时间一致性提升了+15.5%,情景回想提升了+19.5%。
视频世界模型中的记忆(6分钟阅读)
NVIDIA及其合作者的一项最佳论文研究引入了WorldTrace,这是一个无需训练的框架,通过分配固定的槽位秩位置,使自回归视频世界模型中的压缩记忆保持可寻址,从而实现连贯的长程生成和超越训练视野的长距离回忆。