持续LLM智能体中的受控记忆干扰

arXiv:2608.07622v1 公告类型：新 摘要：长期记忆使AI智能体能够在多次会话中保持连续性、个性化行为，并通过积累的经验不断演化。然而，记忆演化并非简单地存储更多信息：新的经验可能强化、修正或干扰已有的记忆状态。现有系统主要强调记忆构建和基于相关性的检索，但多个记忆可能同时保持相关，却在状态、时间有效性或权威性上存在差异。我们提出了受控记忆干扰（CMI），一个受控的诊断和数据生成框架，用于研究智能体记忆在不同记忆关系下如何演化。在受控记忆演化中，良性积累的影响有限，而特定关系的干扰会显著抑制更新可塑性，且几乎没有稳定性收益——要么通过阻止目标记忆的暴露，要么通过干扰其下游使用。词法与密集检索表现出不同的干扰路径，而投毒对更新权威线索的敏感度高于对近因的敏感度。除诊断外，CMI还提供了针对干扰感知记忆学习的示例，改进了对有效更新与干扰诱导记忆的区分，同时保持了原始记忆任务的性能。这些发现表明，记忆演化不仅受记忆规模影响，还受积累经验之间交互作用的影响。更广泛地说，记忆干扰已成为可靠持续智能体记忆系统的一个重要因素。

# 持续 LLM 智能体中的受控记忆干扰 Source: https://arxiv.org/html/2608.07622 Ao Ding1,\*,Hongzong Li2,3,\*,Shiqin Tang4, Li Zhang5, Liang Chen6, Xuyang Chen7, Zi Liang5,† 1中国地质大学（北京）2西北工业大学 3香港科技大学 4中国科学院 5香港理工大学 6洛桑联邦理工学院 7新加坡国立大学 aoding2001@gamil\.com; lihongzong@nwpu\.edu\.cn; lihongzong@ust\.hk shiqin\.tang@cair\.cas\.org\.hk; zanly@mail\.ustc\.edu\.cn; lchen@se\.cuhk\.hk xuyang\.chen@nus\.edu\.sg; zi1415926\.liang@connect\.polyu\.hk 1同等贡献。2