超越记忆多数：多智能体记忆仲裁的潜在源推理

# 超越记忆多数：面向多智能体记忆仲裁的潜源推理
来源：https://arxiv.org/html/2608.19701
###### 摘要
长期多智能体系统会持续积累不同智能体产生的记忆。现有记忆方法通常将检索到的记忆视为独立证据，并通过投票或加权进行组合。然而，这种独立性假设在多智能体环境中常常失效：不同智能体写下的记忆可能继承自相同的上游来源或共享偏见，导致相关证据被重复计数，从而形成虚假多数。我们称此故障模式为**记忆相关性偏见**。为解决此问题，我们提出了**相关感知记忆仲裁**框架。该框架能够联合解耦检索到的记忆并恢复缺失的独立证据。我们将检索到的记忆建模为查询条件下的证据组，并结合神经依赖性推断与基于来源的符号先验，以估计独立证据源的有效数量，从而防止相关记忆形成虚假多数。由于关键的独立证据可能在初始检索集中缺失，CAMA进一步学习了一种顺序恢复策略，在做出最终决策前主动检索替代证据或追溯上游来源，旨在以最小的检索成本恢复足够的独立证据以实现可靠仲裁。在多个基准测试上的实验证明了我们的方法优于最先进基线方法，有效抑制了由相关记忆引发的虚假多数。
## 引言
大型语言模型正日益被部署为长期多智能体系统，其中多个智能体在长时间范围内协作，并持续将它们的观察、总结和推理结果写入共享持久化记忆。对于查询应答，此类系统会检索相关记忆，并通过将检索到的条目视为独立证据，并通过投票或加权进行组合，来将其聚合成最终决策。然而，这种独立性假设在多智能体环境中常常失效：不同智能体写下的记忆可能起源于相同的上游来源或继承共享偏见，导致单个底层证据因子被多个条目表示并重复计数。我们称此故障模式为**记忆相关性偏见**，其中相关记忆夸大了对一个假设的表面支持度，并导致**虚假多数**。这一问题在长期多智能体系统中尤其有害：一旦虚假多数决定了仲裁结果，错误结论会被作为新证据写回共享记忆，进一步放大相关信号，并导致后续决策中出现持续、自我强化的错误。
在长期智能体系统中，现有方法主要通过多数投票、基于置信度或相关性的加权，以及检索增强推理来聚合检索到的记忆。虽然这些方法相比单记忆推理提高了鲁棒性，但它们通常假设检索到的记忆提供独立证据，即更多一致的条目意味着更强的支持。然而在实践中，两条记忆是否冗余是**查询相关**的：来自同一来源的记忆对于某个查询可能提供互补证据，而对于另一个查询则强化相同因子，这种依赖性无法仅通过智能体身份、语义相似性或来源等静态属性来捕捉。
近期研究探讨了记忆管理、来源追踪，以及可靠性感知聚合；然而，相关记忆间的查询相关冗余及其对证据聚合的影响仍未被充分探索。此外，检索到的记忆集本身就是记忆库的一个有偏子集，因为基于相似性的检索倾向于过度选择相关记忆，而低估可能解决虚假多数的独立证据。因此，关键的独立证据可能在初始检索集中缺失，使得仅限于检索记忆的仲裁方法无法恢复正确决策。
这些观察揭示，可靠的记忆仲裁应考虑证据源的有效独立性，而非其原始频率。这就引出了一个关键问题：长期多智能体系统如何根据其有效独立的证据，而非表面数量，来仲裁冲突的记忆？
为克服这些限制，我们提出了**相关感知记忆仲裁**框架，该框架在决策前建模查询相关的证据依赖性并恢复缺失的独立证据。为建模相关证据，我们将检索到的记忆表示为查询条件下的潜在证据槽，并结合神经依赖性推断与基于来源的符号先验，以估计独立证据源的有效数量，防止相关记忆将同一因子重复计入虚假多数。然后，CAMA在潜在证据因子层面而非单个条目层面聚合假设支持度，将决策归因于可靠的、有效独立的来源。鉴于关键的独立证据可能在初始检索中缺失，我们学习了一种顺序恢复策略，在最小化恢复成本的同时主动扩展检索空间或追溯记忆依赖关系，以获取额外的独立证据。
我们的主要贡献总结如下：
- •我们识别了长期多智能体系统中被忽视的**记忆相关性偏见**问题，其中相关记忆被重复计为独立证据并形成虚假多数。
- •我们引入了CAMA，一个新颖的框架，它将相关记忆解耦为有效的独立证据源，在证据因子层面进行仲裁，并在检索预算内主动恢复缺失的独立证据。
- •我们在多个基准测试上进行了广泛实验，证明CAMA优于最先进基线方法，并有效抑制了由相关记忆引发的虚假多数。
## 相关工作
### 长期多智能体系统中的记忆
持久化记忆已成为使基于LLM的多智能体系统适应长期协作的核心组件。现有工作研究了智能体如何在长时间交互中写入、组织和检索共享记忆，表明持久化记忆提高了连续性、协调性和下游任务性能。后续方法通过记忆管理和更新、检索增强的记忆推理，以及对存储证据的来源追踪或审计来提高记忆效用。为做出最终决策，此类系统通常聚合检索到的记忆，通过投票以及基于置信度或相关性的加权，组合一致的条目或智能体输出。这些工作证明了积累和利用历史记忆的重要性，特别是当相关证据分布在众多智能体和交互中时。尽管取得了进展，但大多数方法将检索到的记忆视为独立证据，将更高的一致性等同于更强的支持。在多智能体环境中，冗余是**查询相关**的：来自同一来源的记忆对于某个查询可能是互补的，但对于另一个查询则强化相同因子，这种依赖性无法通过智能体身份、语义相似性或来源等静态属性捕捉。因此，相关记忆可能被重复计数，夸大对某个假设的支持。
### 证据聚合与恢复
另一类研究旨在超越简单计数来改进证据聚合。为减少不可靠信号，现有方法使用基于一致性的聚合、来源可靠性估计，以及置信度感知加权。其他研究探讨了证据来源间的相关性和冲突，而神经符号方法将结构先验融入证据推理。冗余也通过基于语义或来源的过滤来缓解。当初始证据不足时，迭代和检索增强推理方法通过进一步查询恢复额外证据。总的来说，这些方法通过建模可靠性、依赖性、冗余和证据覆盖来改进聚合。尽管有这些进展，现有聚合方法要么假设独立证据，要么依赖静态依赖结构，无法捕捉查询相关的记忆相关性。冗余减少主要依赖相似性或来源，而非有效独立源的数量，而恢复方法可能引入相关记忆而不解决依赖关系。因此，它们无法联合解耦相关性和恢复缺失的独立证据，使得虚假多数问题仍未解决。
参考标题图 1：我们提出的CAMA概述。该图展示了记忆仲裁的整体工作流程，其中检索到的记忆经过证据解耦、冲突仲裁和证据恢复等逐步处理。
## 方法论
### 问题表述
如图1所示，我们考虑一个具有记忆库的多智能体系统，其中包含智能体生成的观察、摘要、中间推理结果和执行轨迹。给定一个查询，检索模块返回一个初始记忆切片，其中。在证据恢复过程中，CAMA迭代更新记忆切片，并将经过t次恢复步骤后的状态表示为。基于当前切片，我们维护一个候选假设集，其中新恢复的记忆可能引入额外假设。候选提取过程与CAMA正交，CAMA专注于证据建模和记忆仲裁。
与将检索记忆视为独立证据的传统聚合方法不同，CAMA通过**查询相关的证据冗余**对记忆依赖性进行建模。具体而言，如果两条记忆和在查询下共享相同的潜在证据因子或为相同的底层证据提供重叠支持，则认为它们是依赖的，记为。这种依赖是查询特定的，无法完全由智能体身份、语义相似性或来源等静态属性来表征，因为不同记忆可能从同一来源提供不同证据，或在不同智能体间传播相同证据。因此，CAMA专注于推断与当前决策相关的记忆之间的有效证据关系，而非维护全局依赖结构。
给定恢复预算B，CAMA通过一系列演变的记忆状态序列确定最终假设，其中。目标是通过避免相关记忆的冗余计数，并在初始检索不足时恢复缺失的独立证据，从而进行证据感知的仲裁。
### 查询相关的证据解耦
证据解耦旨在识别当前记忆切片下的有效独立证据源，而非简单计数检索到的条目。CAMA将这些源建模为查询条件下的潜在证据槽，并通过一个结合了基于来源的先验与集合编码器的神经符号模块推断软记忆到槽的分配。来源作为支持性证据，而非硬依赖标签，从而实现查询相关的冗余建模。
#### 神经符号证据分配
给定当前记忆切片，分配模块推断记忆与潜在证据槽之间的软分配。令J表示最大潜在证据槽数量（不活跃的槽将被忽略），并令表示当来源元数据可用时，从当前切片构建的临时来源图。对于K_t = |C_q^{(t)}|条记忆，一个基于集合的自注意力编码器联合建模查询、记忆交互和来源结构，以产生分配矩阵：
Z^{(t)} = f_{\Theta}(q, \mathcal{C}^{(t)}_q, G^{(t)}_{\mathrm{prov}}) \in \Delta^{K_t \times J},  (1)
其中表示按行归一化的概率分布空间，每一行z_i^{(t)} = (z_{i1}^{(t)}, \ldots, z_{iJ}^{(t)})表示记忆m_i在潜在证据槽上的软分配分布。与一对一的记忆聚类不同，软分配允许每条记忆反映多个证据因子，并捕捉记忆间的部分依赖性。由于冗余取决于查询和记忆上下文，每条记忆的分配是从整个切片联合推断的，而非从单条记忆内容独立推断，这进一步