HeLa-Mem：面向LLM智能体的赫布学习与联想记忆

# HeLa-Mem：用于大语言模型代理的赫布学习与联想记忆 | 来源：https://arxiv.org/html/2604.16839

Jinchang Zhu¹,∗,ᵃ, Jindong Li¹,∗, Cheng Zhang²,∗, Jiahong Liu³, Menglin Yang¹,†,ᵇ  
1香港科技大学（广州） 2吉林大学 3香港中文大学  
[email protected] [email protected]  
∗共同一作。†通讯作者。

###### 摘要
长期记忆是大语言模型（LLM）代理面临的关键挑战，因为固定长度的上下文窗口无法在长时间交互中保持连贯性。现有的记忆系统将对话历史表示为未结构化的嵌入向量，仅通过语义相似度进行信息检索。这一范式未能捕捉人类记忆中的**联想结构**，即相关经验通过重复共激活逐步强化彼此之间的连接。受认知神经科学启发，我们识别出生物记忆中三个核心机制：**关联**、**巩固**与**扩散激活**，而这些机制在当前研究中几乎完全缺失。为了填补这一空白，我们提出 **HeLa-Mem**，一种生物启发的记忆架构，将记忆建模为具有赫布学习动态的动态图。HeLa-Mem 采用双级组织结构：(1) **情景记忆图**，通过共激活模式不断演化；(2) **语义记忆库**，通过赫布蒸馏进行填充。在此过程中，一个反思代理会识别出高密度连接的记忆枢纽，并将其蒸馏为结构化、可复用的语义知识。这种双路径设计同时利用了语义相似度和习得的关联性，映射了人类认知中的情景-语义区分。LoCoMo 基准测试表明，该模型在四个问题类别上均取得了更优的性能，且使用的上下文 Token 显著减少（Figure 1 (https://arxiv.org/html/2604.16839#S1.F1)）。代码已开源：GitHub (https://github.com/ReinerBRO/HeLa-Mem)。

HeLa-Mem: Hebbian Learning and Associative Memory for LLM Agents  
Jinchang Zhu1,∗,a, Jindong Li1,∗, Cheng Zhang2,∗, Jiahong Liu3, Menglin Yang1,†,b  
1The Hong Kong University of Science and Technology (Guangzhou)  
2Jilin University  
3The Chinese University of Hong Kong  
[email protected] [email protected]  
∗Equal contribution. †Corresponding author.

## 1 引言
大语言模型在语言理解和生成方面展现出卓越能力，支持了日益复杂的交互式智能体系统（Yang et al., 2024 (https://arxiv.org/html/2604.16839#bib.bib20); Liu et al., 2026 (https://arxiv.org/html/2604.16839#bib.bib26)）。然而，在长时间跨度内维持连贯的行为仍然是一个根本性挑战（Zhang et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib1)）。由于依赖固定长度的上下文窗口，LLM 难以在对话延长或跨多个会话时保持一致的过往交互表征。这一限制通常会导致碎片化记忆（Wu et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib2); Hu et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib3); Lian et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib4); Liu et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib25)），进而引发事实不一致、个性化能力下降以及智能体行为不稳定（Li et al., 2026 (https://arxiv.org/html/2604.16839#bib.bib27)）。因此，对于需要在持续用户适应、多会话知识保留或稳定人设维护等场景下运行的 LLM 代理而言，解决长期记忆的连贯性至关重要。

Refer to caption Figure 1: Performance vs. token efficiency on LoCoMo, averaged across GPT-4o-mini and GPT-4o. HeLa-Mem achieves strong performance with fewer tokens, landing in the upper-left ideal region.

当前针对 LLM 代理的记忆机制大致可归纳为三种方法论范式。**知识组织方法**（如 A-Mem (Xue et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib12))）将记忆结构化为相互关联的语义网络，以实现自适应管理。**检索机制导向方法**（以 MemoryBank (Zhong et al., 2024 (https://arxiv.org/html/2604.16839#bib.bib14)) 为代表）将语义检索与遗忘曲线相结合，实现长期更新。**架构驱动方法**（包括 MemGPT (Packer et al., 2023 (https://arxiv.org/html/2604.16839#bib.bib11))）则采用层级记忆结构，通过显式的读写操作动态管理有限的上下文窗口。尽管这些方法已被证明有效，但它们通常在孤立的环境中开发，各自侧重于单一维度——记忆结构、检索策略或更新机制，而很大程度上忽视了它们之间的相互作用及其对长期连贯性的共同贡献。更根本地说，这种组件级优化往往忽略了长期连贯性的一个关键方面：记忆结构的**动态演化**。人类记忆并非一个静态数据库，其中的条目被孤立地存储和检索；相反，它是一个动态系统，其连接会随着经验的积累不断重组。例如，今天讨论的话题可能会触发一个月前的某段记忆，这不一定是因为它们共享表层关键词，而是因为它们是同一段不断演进叙事弧的一部分。当前系统通过将存储和检索视为分离的静态过程，无法捕捉这种不断演变的连接性，导致智能体能够“记住”事实，却缺乏发展中之关系的“连续性”。

为了更好地理解如何维持长期连贯性，我们借鉴了生物记忆的一个基本原理：**赫布学习（Hebbian learning）**。在生物系统中，反复共激活的经验会逐渐形成更强的关联，这一现象常被概括为“一起激发的神经元连在一起”（如图 2 (https://arxiv.org/html/2604.16839#S1.F2) 所示）。这种联想组织允许相关记忆通过扩散激活被高效重新唤起，并支持将情景体验逐步巩固为更稳定的语义知识。 Together, 关联、巩固与扩散激活构成了一个紧密耦合的记忆处理过程，使生物系统能够在长时间尺度上维持连贯的表征——这也是当前人工记忆设计 largely 缺失的能力。

基于这一视角，我们提出 **HeLa-Mem（Hebbian Learning associative Memory）**，一种专为 LLM 代理设计的统一记忆架构。HeLa-Mem 将对话历史表示为具有赫布学习动态的动态图，并通过协同运作的在线关联、反思性巩固与双路检索机制，建立了一套统一的记忆管理框架，既能捕捉细粒度细节，也能抽象高层模式。我们的主要贡献如下：
- 我们提出了 **HeLa-Mem**，这是一种生物启发式框架，利用**在线编码与关联**机制将对话历史建模为动态赫布图，其中共激活的记忆会强化连接，从而捕捉潜在上下文。
- 我们引入了基于**赫布蒸馏（Hebbian Distillation）**的**反思性巩固**框架，该框架能识别枢纽簇并将其转化为结构化语义知识，在防止图结构爆炸的同时保留关键信息。
- 我们实现了**双路检索（Dual-Path Retrieval）**策略，利用扩散激活遍历赫布边，在所有问题类别中均取得了最佳平均排名（1.25）。
- 在 LoCoMo 基准上的综合实验验证了 HeLa-Mem 的有效性，其在四个类别中均表现优异，且使用的上下文 Token 显著更少。

Refer to caption Figure 2: Conceptual illustration of Hebbian learning in associative memory. Two memory nodes (Neuron A and B) representing distinct experiences (e.g., a daytime event and a nighttime event) develop strengthened synaptic connections when co-activated through shared context. This "neurons that fire together, wire together" principle forms the theoretical foundation of HeLa-Mem’s dynamic memory graph.

## 2 相关工作
### 2.1 面向 LLM 代理的记忆
Refer to caption Figure 3: The architectural overview of HeLa-Mem. The framework consists of three modules: (1) **Hebbian Association** for dynamic graph construction (Section 3.2 (https://arxiv.org/html/2604.16839#S3.SS2)); (2) **Reflective Consolidation** for semantic knowledge distillation (Section 3.3 (https://arxiv.org/html/2604.16839#S3.SS3)); and (3) **Retrieval and Response** using a Dual-Path strategy (Section 3.4 (https://arxiv.org/html/2604.16839#S3.SS4)).

现有的大型语言模型在处理需要长期连贯性的复杂场景时面临根本性挑战（Hu et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib3)）。应对此问题的记忆系统进展大致可分为三类。**知识组织方法**专注于捕获并结构化中间推理状态。Think-in-Memory（Liu et al., 2023 (https://arxiv.org/html/2604.16839#bib.bib13)）存储不断演进的思想链，通过持续更新保持连贯性。A-Mem（Xue et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib12)）将知识组织为跨会话互联的笔记网络。**检索机制导向方法**由 RAG（Lewis et al., 2020 (https://arxiv.org/html/2604.16839#bib.bib8)）开创，通过外部记忆库增强模型。MemoryBank（Zhong et al., 2024 (https://arxiv.org/html/2604.16839#bib.bib14)）将对话、事件和用户特征记录在向量数据库中，并利用遗忘曲线调度进行刷新。Generative Agents（Parker et al., 2023 (https://arxiv.org/html/2604.16839#bib.bib10)）以自然语言形式保存记忆，并增加反射循环进行相关性过滤。EmotionalRAG（Huang et al., 2024 (https://arxiv.org/html/2604.16839#bib.bib18)）结合语义相似度与智能体的情感状态来检索记忆条目。**架构驱动设计**通过改变核心控制流来显式管理上下文。MemGPT（Packer et al., 2023 (https://arxiv.org/html/2604.16839#bib.bib11)）采用类似操作系统的层级结构，配备专用的读写调用。SCM（Lian et al., 2023 (https://arxiv.org/html/2604.16839#bib.bib17)）引入双缓冲区和内存控制器以门控选择性召回。Mem0（Chhikara et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib16)）动态提取并整合关键信息以实现可扩展的长期记忆。MemoryOS（Kang et al., 2025 (https://arxiv.org/html/2604.16839#bib.bib15)）引入了包含短期、中期和长期记忆单元的三层分层存储，并采用分段页组织进行动态更新。

### 2.2 神经网络中的赫布学习
赫布学习可概括为“一起激发的神经元连在一起”（Hebb, 2005 (https://arxiv.org/html/2604.16839#bib.bib5)），它是神经科学的基础原则之一，描述了突触连接如何通过相关活动得到强化（见图 2 (https://arxiv.org/html/2604.16839#S1.F2)）。形式化而言，给定两个神经元的激活状态 $x_i$ 和 $x_j$，连接权重 $w_{ij}$ 的更新规则为：
$\Delta w_{ij} = \eta \cdot x_i \cdot x_j$
其中 $\eta$ 为学习率。该原理已被应用于 Hopfield 网络（Hopfield, 1982 (https://arxiv.org/html/2604.16839#bib.bib6)），证明了具有对称连接的循环神经网络可作为联想记忆，通过能量最小化存储和检索模式。近年来，Ramsauer et al. (2020 (https://arxiv.org/html/2604.16839#bib.bib7)) 证明，具有连续状态的现代 Hopfield 网络在数学上与 Transformer 的注意力机制等价，揭示了生物记忆原理与现代深度学习架构之间的深刻联系。在 LLM 代理的背景下，赫布动态提供了一种 principled 方法来捕捉仅靠语义相似度难以察觉的记忆间潜在关联。

## 3 HeLa-Mem 架构
受人脑突触可塑性的启发，HeLa-Mem 将对话历史建模为动态联想图，而非静态日志。我们的设计受以下三条神经科学直觉指导：(1) **关联优先于孤立**——共现的记忆应相互连接，形成超越简单语义相似度的潜在通路；(2) **主动巩固**——频繁访问的记忆簇应固化稳定知识，类似于睡眠期的记忆巩固；(3) **扩散检索**——回忆某一记忆应能通过既定的突触路径自然触发相关概念。基于这些原则（图 3 (https://arxiv.org/html/2604.16839#S2.F3)），HeLa-Mem 通过持续的生命周期运行：
- **在线编码与关联**：对话轮次被编码至情景记忆图中，赫布学习机制动态强化共激活记忆间的连接。
- **反思记忆代理**：当达到关联阈值时，该代理识别枢纽节点，并应用**赫布蒸馏**将其转化为稳定的语义知识，防止噪声累积。
- **双路检索**：查询时，查询词通过扩散激活同时唤醒具体的情景细节与广泛的语义知识。

### 3.1 记忆存储
#### 3.1.1 情景记忆图（Episodic Memory Graph）
对话轮次作为节点存储在加权图中。每个节点包含原始文本、稠密嵌入、时间戳、提取的关键词以及说话人角色。节点之间的边代表联想连接，权重表示关联强度。初始时，连续的轮次以较小的权重相连，这些权重随后通过赫布学习不断演化。

#### 3.1.2 语义记忆库（Semantic Memory Store）
语义层存储从情景记忆中蒸馏出的知识：具体而言，我们在情景图的枢纽中心簇上应用**赫布蒸馏**，生成带有可追溯证据链接到源轮次的**蒸馏语义记录**：
- **用户模型**：稳定的用户特征（例如，“喜欢户外活动”），附带置信度分数与支持证据。
- **事实记忆**：提取的事实数据，带有绝对时间戳，如事件日期和人物关系。
- **代理知识**：代理确立的人设、偏好与行为模式。这部分作为长期记忆，可跨越多次对话窗口持久存在。

### 3.2 在线编码与关联
大脑中的突触效能并非固定不变，而是具有可塑性，随活动模式演变。我们通过赫布学习模拟这一动态过程，以捕捉仅靠语义嵌入可能遗漏的潜在关联。遵循“一起激发的神经元连在一起”的神经科学原则，在检索过程中若记忆被共激活，其边的权重将增强：
$w_{ij}^{(t+1)} = \underbrace{(1-\lambda) \cdot w_{ij}^{(t)}}_{\text{synaptic decay}} + \underbrace{\eta \cdot \mathbb{I}(v_i, v_j \in \mathcal{K}_t)}_{\text{active reinforcement}}$
其中 $\lambda$ 为衰减率，$\eta$ 为学习率，$\mathbb{I}(\cdot)$ 为指示函数，表示 pair $(v_i, v_j)$ 是否在当前检索集 $\mathcal{K}_t$ 中被共激活。该动态机制使得频繁相关的记忆得以强化，同时