MemEye:面向多模态智能体记忆的视觉中心评估框架
摘要
MemEye 是一个视觉中心的评估框架,通过衡量 8 个生活场景任务中的视觉证据粒度和检索复杂度来评估多模态智能体记忆。该框架揭示了当前架构在保留细粒度视觉细节和推理随时间变化的状态方面仍然存在困难。
查看缓存全文
缓存时间: 2026/05/15 04:23
论文页面 - MemEye:面向多模态智能体记忆的视觉中心评估框架
来源:https://huggingface.co/papers/2605.15128 发布于 5月14日
#2 当日论文 (https://huggingface.co/papers/date/2026-05-15) 作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
MemEye 框架通过测量 8 个生活场景任务中的视觉证据粒度与检索使用复杂性,对多模态智能体记忆进行评估。
长期智能体记忆日益呈现多模态特性,然而现有评估很少测试智能体是否保留了后续推理所需的视觉证据。在先前工作中,许多基于视觉的问题仅凭字幕或文本痕迹即可回答,使得答案无需保留细粒度的视觉证据便能推断出来。与此同时,需要跨变化视觉状态进行推理的较难案例则大多缺失。因此,我们提出了 MemEye,一个从两个维度评估记忆能力的框架:一个维度衡量决定性视觉证据的粒度(从场景级到像素级证据),另一维度衡量检索到的证据必须如何使用(从单一证据到演化综合)。在该框架下,我们构建了一个覆盖 8 个生活场景任务的新基准,并配备了基于消融的验证门,用于评估可回答性、捷径抵抗力、视觉必要性以及推理结构。通过在 4 个 VLM 骨干网络上评估 13 种记忆方法,我们展示了现有架构在保留细粒度视觉细节以及推理随时间变化的状态方面仍然存在困难。我们的发现表明,长期多模态记忆依赖于证据路由、时间追踪以及细节提取。
查看 arXiv 页面 (https://arxiv.org/abs/2605.15128)查看 PDF (https://arxiv.org/pdf/2605.15128)项目页面 (https://minghokwok.github.io/MemEye/)GitHub5 (https://github.com/MinghoKwok/MemEye)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.15128)
在你的智能体中获取此论文:
hf papers read 2605\.15128
没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
没有模型关联此论文
请在模型 README.md 中引用 arxiv.org/abs/2605.15128,以便从此页面链接它。
引用此论文的数据集0
没有数据集关联此论文
请在数据集 README.md 中引用 arxiv.org/abs/2605.15128,以便从此页面链接它。
引用此论文的 Spaces0
没有 Space 关联此论文
请在 Space README.md 中引用 arxiv.org/abs/2605.15128,以便从此页面链接它。
包含此论文的收藏0
没有收藏包含此论文
请将此论文添加到一个收藏,以便从此页面链接它。
相似文章
WorldMemArena:通过动作-世界交互评估多模态智能体记忆
WorldMemArena 是一个新的基准测试,包含400个多会话多模态任务,用于评估多模态智能体记忆,比较了长上下文、RAG和基于框架的记忆方法,揭示了更好的记忆写入并不保证更好的性能,并且系统在处理视觉证据方面存在困难。
从多模态经验中学会学习
本文介绍了AutoMMemo,一个使多模态智能体能够自动设计记忆机制(可表达为可执行的备忘录程序)以从多模态交互轨迹中学习的框架,在GUI/Web导航和视觉推理基准上优于无记忆和固定记忆基线。
MemLens:大规模视觉-语言模型中多模态长期记忆的基准测试
MemLens是一个新的基准测试,通过多轮对话评估大规模视觉-语言模型的记忆能力。它比较了长上下文和记忆增强方法,揭示了二者的局限性,并推动了混合架构的发展。
M^3Eval:基于认知心理学的视频任务多模态记忆评估
M^3Eval是一个全面的评估框架和基准,用于探查多模态模型中的记忆能力,其设计基于认知心理学。实验揭示了在记忆维持、干扰模式和时空定位方面的一致弱点。
DMV-Bench: 通过偶然线索注入诊断长周期多模态智能体的视觉记忆
介绍DMV-Bench,一个用于评估多模态智能体视觉记忆的交互式基准测试,该测试利用产品图像中的偶然视觉线索,并提出了DualMem,一种双编码记忆架构,在各种链长度上优于纯文本和其他多模态基线。