MemEye:面向多模态智能体记忆的视觉中心评估框架

Hugging Face Daily Papers 论文

摘要

MemEye 是一个视觉中心的评估框架,通过衡量 8 个生活场景任务中的视觉证据粒度和检索复杂度来评估多模态智能体记忆。该框架揭示了当前架构在保留细粒度视觉细节和推理随时间变化的状态方面仍然存在困难。

长期智能体记忆日益向多模态发展,然而现有评估很少测试智能体是否保留了后续推理所需的视觉证据。在先前的工作中,许多基于视觉的问题仅靠标题或文本痕迹就能回答,使得无需保留细粒度视觉证据即可推断答案。与此同时,那些需要对变化的视觉状态进行推理的更难案例则基本缺失。因此,我们提出了 MemEye,一个从两个维度评估记忆能力的框架:一个维度衡量关键视觉证据的粒度(从场景级到像素级证据),另一个维度衡量检索到的证据必须如何使用(从单一证据到演化综合)。在该框架下,我们构建了一个涵盖 8 个生活场景任务的新基准,并设有消融驱动的验证门,用于评估可回答性、防捷径能力、视觉必要性以及推理结构。通过评估 4 个 VLM 骨干上的 13 种记忆方法,我们表明当前架构在保留细粒度视觉细节和推理随时间变化的状态方面仍然存在困难。我们的研究结果表明,长期多模态记忆依赖于证据路由、时间追踪和细节提取。
查看原文
查看缓存全文

缓存时间: 2026/05/15 04:23

论文页面 - MemEye:面向多模态智能体记忆的视觉中心评估框架

来源:https://huggingface.co/papers/2605.15128 发布于 5月14日

#2 当日论文 (https://huggingface.co/papers/date/2026-05-15) 作者:

摘要

MemEye 框架通过测量 8 个生活场景任务中的视觉证据粒度与检索使用复杂性,对多模态智能体记忆进行评估。

长期智能体记忆日益呈现多模态特性,然而现有评估很少测试智能体是否保留了后续推理所需的视觉证据。在先前工作中,许多基于视觉的问题仅凭字幕或文本痕迹即可回答,使得答案无需保留细粒度的视觉证据便能推断出来。与此同时,需要跨变化视觉状态进行推理的较难案例则大多缺失。因此,我们提出了 MemEye,一个从两个维度评估记忆能力的框架:一个维度衡量决定性视觉证据的粒度(从场景级到像素级证据),另一维度衡量检索到的证据必须如何使用(从单一证据到演化综合)。在该框架下,我们构建了一个覆盖 8 个生活场景任务的新基准,并配备了基于消融的验证门,用于评估可回答性、捷径抵抗力、视觉必要性以及推理结构。通过在 4 个 VLM 骨干网络上评估 13 种记忆方法,我们展示了现有架构在保留细粒度视觉细节以及推理随时间变化的状态方面仍然存在困难。我们的发现表明,长期多模态记忆依赖于证据路由时间追踪以及细节提取

查看 arXiv 页面 (https://arxiv.org/abs/2605.15128)查看 PDF (https://arxiv.org/pdf/2605.15128)项目页面 (https://minghokwok.github.io/MemEye/)GitHub5 (https://github.com/MinghoKwok/MemEye)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.15128)

在你的智能体中获取此论文:

hf papers read 2605\.15128

没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型关联此论文

请在模型 README.md 中引用 arxiv.org/abs/2605.15128,以便从此页面链接它。

引用此论文的数据集0

没有数据集关联此论文

请在数据集 README.md 中引用 arxiv.org/abs/2605.15128,以便从此页面链接它。

引用此论文的 Spaces0

没有 Space 关联此论文

请在 Space README.md 中引用 arxiv.org/abs/2605.15128,以便从此页面链接它。

包含此论文的收藏0

没有收藏包含此论文

请将此论文添加到一个收藏,以便从此页面链接它。

相似文章

WorldMemArena:通过动作-世界交互评估多模态智能体记忆

Hugging Face Daily Papers

WorldMemArena 是一个新的基准测试,包含400个多会话多模态任务,用于评估多模态智能体记忆,比较了长上下文、RAG和基于框架的记忆方法,揭示了更好的记忆写入并不保证更好的性能,并且系统在处理视觉证据方面存在困难。

从多模态经验中学会学习

arXiv cs.AI

本文介绍了AutoMMemo,一个使多模态智能体能够自动设计记忆机制(可表达为可执行的备忘录程序)以从多模态交互轨迹中学习的框架,在GUI/Web导航和视觉推理基准上优于无记忆和固定记忆基线。