CABLE: 通过互补基于前驱的链接与扩展扩展记忆检索的覆盖范围

# 通过基于互补先行事件的链接与扩展延伸记忆检索范围
来源：https://arxiv.org/html/2608.17911
金高德权王（通讯作者：dequanwang@sjtu\.edu\.cn）单位：上海交通大学上海创新研究院

###### 摘要

随着大语言模型智能体在结构化工作流和会话间运行，保存长期历史并不能确保后续上下文能通过有限的记忆接口恢复相关证据。我们在长期对话记忆中研究此证据可达性问题，目前的检索仍然严重依赖语义相似性。这种方法在主题回忆时效果良好，但常常遗漏与后续事件语义距离较远、却有助于解释这些事件的早期经验、计划或动机。现有记忆图提供了跨记忆的结构，然而主要由语义重叠驱动的链接可能重复宿主检索器已恢复的内容。我们认为链接构建应优先考虑一组稀疏的检索器互补关联。我们提出CABLE（基于互补先行事件的链接与扩展），一种插件式增强方案，其构建的链接旨在扩展宿主检索器的直接语义检索范围。对于每个新记忆，CABLE生成面向先行事件的查询，检索先前的记忆，减去直接语义邻域中的候选记忆，并验证剩余部分，然后将接受的互补关联添加到稀疏有向图中。检索时，CABLE沿着这些链接扩展宿主系统检索到的种子记忆，以浮现隐含的支撑证据。我们在LoCoMo和MA-LongMemEval上使用A-MEM评估CABLE，并进一步将其集成到SimpleMem和图增强的Mem0g中，使用Qwen3\.5-27B、DeepSeek-chat和GPT-4o-mini。在所有评估的系统级设置中，CABLE都产生了更高的平均LLM评判分数，在有用证据分布在多个记忆或会话中的类别（包括开放域、多会话和偏好导向问题）上收益最大。这些结果支持优先选择稀疏、与推理相关且补充而非重复宿主检索器的关联。CABLE核心实现在https://github.com/TanZheling/CABLE\.

## 1引言

大语言模型智能体系统正日益组织为包含专用组件和显式状态转换的执行图\(28 (https://arxiv.org/html/2608.17911#bib.bib29);34 (https://arxiv.org/html/2608.17911#bib.bib30);30 (https://arxiv.org/html/2608.17911#bib.bib31)\)。随着这些系统在组件和会话边界间运行，我们不能再假设长期历史会保留在同一个提示中。这就产生了一个信息访问问题：执行图指定了计算进行的位置，但没有说明后续组件如何在有限上下文中恢复相关历史。

长期对话记忆为研究证据可达性问题的具体实例提供了一个受控环境：当存储的证据位于后续查询的直接语义邻域之外时，它是否仍能被检索？现有系统通常将过去的交互存储为紧凑的记忆条目，并为每个新查询检索一小部分\(20 (https://arxiv.org/html/2608.17911#bib.bib1);19 (https://arxiv.org/html/2608.17911#bib.bib6);12 (https://arxiv.org/html/2608.17911#bib.bib24)\)。当查询和所需记忆在嵌入空间中接近时，语义检索是有效的，即使它们的表面形式不同。但当查询涉及一个后期事件，而回答它需要关于经验、计划、动机或背景事件的早期记忆时，其可靠性就会降低。在这种情况下，所需的证据存在于记忆中，但在检索器有限的输出预算内无法访问。图1 (https://arxiv.org/html/2608.17911#S1.F1)说明了这种区别。问题“Emma要搬到哪个城市？”检索到关于打包的近期记忆，而答案出现在更早的关于西雅图工作机会的记忆中。第一个记忆与查询主题接近；第二个则提供了缺失的先行事件。

参考标题图 1：存储的证据可能仍然位于直接检索范围之外。直接语义检索返回记忆B，但不返回包含所需答案的记忆A。在构建期间，CABLE存储先行链接（A→BA\\rightarrow B）；在查询时，扩展从检索到的记忆B开始，沿着其入链恢复记忆A。结构化记忆提供了一种扩展直接检索的自然方式。Mem0提取实体级关系\(6 (https://arxiv.org/html/2608.17911#bib.bib3)\)，A-MEM通过上下文描述链接记忆\(29 (https://arxiv.org/html/2608.17911#bib.bib4)\)，HippoRAG在大语言模型构建的知识图上进行推理\(9 (https://arxiv.org/html/2608.17911#bib.bib25)\)。然而，添加链接并不一定能增加访问性。当关联主要反映语义重叠、共享实体或邻近描述时，图扩展返回的记忆可能已经在宿主检索器的可达范围内。在固定的上下文预算下，冗余的邻域记忆可能会排挤更有用的证据，而不会扩展系统的有效范围。

这一观察提出了记忆图的一个设计标准：关联应该是*检索器互补的*。它们的价值在于暴露宿主检索器直接邻域之外的有用证据。这样的链接无需形成全面的世界模型；它们可以保持稀疏、持久且可检查，同时提供通往语义上远距离记忆的替代路径。这将结构化记忆的角色从单纯地表示关系转变为在有限上下文下提供边际检索价值。

我们用CABLE（基于互补先行事件的链接与扩展）实例化了这一原则，这是一个针对现有记忆系统的插件式增强方案。当写入新记忆时，CABLE会询问哪些早期的经验、计划、动机或背景事件可能导致了它，并将这些假设转换为面向先行事件的查询。它检索宿主系统的直接语义邻域和先行事件候选，减去它们的重叠，并在存储定向链接之前验证剩余的候选。在查询时，CABLE将宿主检索器的种子记忆扩展一跳，聚合来自连接种子的支持信息，并过滤冗余添加。在A-MEM和Mem0g集成中，CABLE在固定的检索条目预算下运行，替换排名较低的基线记忆，而不是增加传递给答案生成器的条目数量。先行推理在记忆构建期间执行一次，生成的链接在后续检索中重复使用。因此，检索时的扩展无需额外的LLM调用。

CABLE针对的是持久记忆层应提供的一种能力：当后续查询需要其直接检索邻域之外的间接相关证据时，存储的历史应保持可恢复性。我们通过长期对话记忆问答来隔离这种能力，不引入工具使用、多智能体协调或图级任务完成。

我们在LoCoMo和MA-LongMemEval上使用A-MEM评估CABLE，并进一步将其集成到SimpleMem和图增强的Mem0g中，使用Qwen3\.5-27B、DeepSeek-chat和GPT-4o-mini。在所有评估的系统级设置中，CABLE都产生了更高的整体平均LLM评判分数。在需要隐式跨记忆关联的类别上收益最大，包括LoCoMo中的开放域问题和MA-LongMemEval中的多会话或偏好导向问题。

我们的贡献有三点：
- •我们提出了*检索器互补性*作为结构化记忆的设计原则：有用的关联扩展而非重复宿主检索器的有效范围。
- •我们提出了CABLE，它通过双重检索、重叠减法和验证构建稀疏先行链接，然后通过有限扩展重复使用它们，无需检索时LLM调用。
- •我们在两个长期对话记忆基准、三个结构不同的记忆系统以及在受控检索协议下的多个LLM骨干网络上展示了持续的整体改进。

## 2相关工作

##### 基于条目的记忆系统。
为了保留超出上下文窗口的信息，近期工作为LLM智能体引入了显式记忆模块，将过去的交互存储和管理为离散的记忆条目。这些系统主要在如何形成和维护此类条目上有所不同。MemoryBank\(33 (https://arxiv.org/html/2608.17911#bib.bib5)\)将长期记忆视为与用户相关记录的演化集合，使用遗忘感知机制进行更新以模拟时间衰减。Mem0\(6 (https://arxiv.org/html/2608.17911#bib.bib3)\)从正在进行的对话中提取显著事实，将它们整合为持久的记忆项，并在下游生成需要时检索它们。LightMem\(7 (https://arxiv.org/html/2608.17911#bib.bib20)\)通过轻量级压缩、基于主题的分组和离线整合提高了效率，将原始交互历史转化为为结构化访问而组织的紧凑记忆单元。SimpleMem\(17 (https://arxiv.org/html/2608.17911#bib.bib7)\)同样强调紧凑条目的构建，将交互提炼为多视图索引的记忆单元，并递归地将相关单元整合为更高层次的抽象。MemInsight\(22 (https://arxiv.org/html/2608.17911#bib.bib8)\)进一步增强了存储的交互，以改善记忆条目的语义表示和检索质量。尽管实现上存在差异，这些系统主要改进了单个记忆条目的提取、压缩、更新和检索方式。在这些设计中，下游推理仍然只接收一组选定的条目；其外的证据需要跨记忆的替代访问路径。

##### 结构化记忆关联。
除了将记忆存储为基本独立的条目外，近期工作探索了如何通过更强的关系结构来改善记忆系统中的联想访问。A-MEM\(29 (https://arxiv.org/html/2608.17911#bib.bib4)\)使记忆通过动态索引和链接进行演化，形成相关笔记的自组织网络。这条工作路线与链接笔记和联想索引\(4 (https://arxiv.org/html/2608.17911#bib.bib27);1 (https://arxiv.org/html/2608.17911#bib.bib28)\)相呼应，它们使用持久交叉引用来提供超出存储和搜索本身的访问路径。Mem0还提供了图变体Mem0g\(6 (https://arxiv.org/html/2608.17911#bib.bib3)\)，将记忆表示为一个有向标签图，其中实体作为节点，它们的关系作为边，从而实现跨相关事实的多跳遍历。CompassMem\(11 (https://arxiv.org/html/2608.17911#bib.bib21)\)转向事件中心设计，将经验分割为事件，并通过显式逻辑关系连接它们，使智能体可以通过事件图而非仅依赖直接条目级匹配来导航记忆。其他方法进一步将丰富的链接与推理时控制相结合。ActMem\(31 (https://arxiv.org/html/2608.17911#bib.bib22)\)构建了一个因果和语义图，并将检索与反事实推理集成，而MAGMA\(14 (https://arxiv.org/html/2608.17911#bib.bib23)\)通过多个关系视图表示每个记忆项，并在它们之上执行策略引导的遍历。Hindsight\(15 (https://arxiv.org/html/2608.17911#bib.bib26)\)同样将记忆视为结构化基底，支持在组织的记忆网络上进行时间和实体感知的回忆。近期系统还探索了基于时间属性的图、查询自适应的多关系图检索以及层次化证据选择\(3 (https://arxiv.org/html/2608.17911#bib.bib32);25 (https://arxiv.org/html/2608.17911#bib.bib33);5 (https://arxiv.org/html/2608.17911#bib.bib34)\)。这些方法丰富了记忆表示和检索，但并未明确根据链接在宿主检索器之外提供的额外证据来优先考虑链接。在有限的上下文预算下，冗余的邻域增加了结构但并未扩展有效范围。

##### 超越直接匹配的检索。
检索是记忆系统的核心组件，因为它决定了存储的信息如何被带回到推理过程中。许多方法不仅仅依赖于输入查询和存储文本之间的直接匹配，而是通过构建中间查询端表示来改进检索。HyDE\(8 (https://arxiv.org/html/2608.17911#bib.bib16)\)是一个代表性例子：它首先从查询生成一个假设文档，然后使用该合成文本的嵌入来检索证据。HyPE\(24 (https://arxiv.org/html/2608.17911#bib.bib17)\)将此思想转移到索引阶段，为每个块预计算类问题提示。用于RAG的问题分解\(2 (https://arxiv.org/html/2608.17911#bib.bib18)\)通过将复杂问题分解为子问题并为每个部分检索证据来改进检索，而GenGround\(23 (https://arxiv.org/html/2608.17911#bib.bib19)\)通过中间问答对交错生成和检索。这些方法表明，替代的查询表示可以在推理或索引时扩展候选发现。CABLE同样使用生成的查询进行候选发现，但减去直接检索集，验证剩余部分，并存储接受的链接以供重用。

## 3方法

图2 (https://arxiv.org/html/2608.17911#S3.F2)总结了CABLE。在记忆构建期间（面板B），CABLE为每个新记忆生成面向先行事件的查询，检索直接语义邻域和先行事件候选，移除重叠，并在添加稀疏有向边集之前验证剩余候选。在查询时（面板C），CABLE沿着这些边扩展宿主系统检索到的种子记忆，并过滤冗余添加。这些步骤共同旨在仅引入提供额外检索价值的非冗余链接。在整个过程中，G=\(M,E\)G=\(M,E\)表示CABLE在所有记忆条目上维护的有向图，φ⁡\(⋅\)\phi\(\cdot\)表示宿主系统检索器的嵌入函数。

参考标题图 2：CABLE构建稀疏先行链接并将其重用于有限的检索扩展。（A）直接语义检索到达记忆B，但遗漏了语义上远但相关的记忆A。（B）在构建期间，CABLE检索直接匹配项\(BiB\_\{i\}\)和先行事件候选\(HiH\_\{i\}\)，减去它们的重叠，验证剩余候选，并将接受的链接\(mj→mim\_\{j\}\\rightarrow m\_\{i\}\)存储在图G中。（C）在推理时，宿主系统返回\(R0R\_\{0\}\)，CABLE选择可靠的种子\(SS\)，扩展其存储的图邻域，并应用候选评分和新颖性过滤。相似度值仅为说明性用途。### 3\.1构建时先行链接构建

设M<i=\{m1,...,mi−1\}M\_\{<i\}=\\\{m\_\{1\},\\ldots,m\_\{i\-1\}\\\}表示新记忆mim\_\{i\}到达时的记忆库。CABLE从M<iM\_\{<i\}中的先前记忆向mim\_\{i\}构建一组稀疏的有向边。这些边提供了宿主系统的语义检索器不太可能直接呈现的先前记忆的替代访问路径。

#### 3\.1\.1面向先行事件的查询生成

CABLE通过将关于早期经历的假设转换为查询来扩展候选发现。