智能体AI记忆不是囤积问题,而是剪枝问题。
摘要
作者认为,AI代理的记忆应侧重于数据剪枝而非囤积,借鉴人类记忆类型(感觉记忆、短期记忆、长期记忆),并指出模仿人类记忆可以在减少令牌用量的同时维持高质量上下文。
研究这个问题几个月后,我得出的结论是:记忆中的数据囤积并非解决之道,剪枝才是关键。更重要的是你如何以及剪掉了系统中的哪些内容,而非你保留了哪些。这与人类记忆事物的方式非常相似。如果我们简而言之,人类保留三种记忆:感觉记忆、短期记忆和长期记忆。感觉记忆无法复现,短期记忆就是你的会话上下文窗口。真正需要解决的是长期记忆。人类并不会在长期记忆系统中囤积信息,而是随时间推移对信息进行剪枝。而且这种剪枝并非均匀进行。它们还可以进一步细分,以决定其衰减速率。例如,人类有两种长期记忆:语义记忆和情景记忆。人类往往能长时间记住情景记忆而无需反复回忆,因为其中附带了某种创伤,因此其重要性高于语义记忆。现在,如果我们围绕人类记忆系统来建模我们的智能体记忆系统,我们将能够以更少的令牌消耗产生高质量的上下文。在这个方向上已取得了一些进展,以下是我的发现分享。
相似文章
AI 智能体运行时间越长,你花费在管理其记忆上的时间就越超过实际使用它的时间。
本文重点讨论了随时间推移管理 AI 智能体记忆时日益严重的问题:用户花费更多精力维护上下文,而非实际使用智能体。文章指出,目前缺乏用于记忆衰减和治理的基础设施。
AI智能体拥有强大的记忆能力,但毫无记忆卫生可言。六个月后会是什么样?没人谈论这一点。
探讨了AI智能体中被忽视的记忆卫生问题——长期存储导致上下文过时且不可靠,并质疑行业是否在忽视一个即将到来的全球性问题。
AI 智能体记忆机制详解(28 分钟阅读)
本文全面介绍了 AI 智能体记忆机制的技术原理,区分了工作记忆与长期记忆的实现方式,并探讨了上下文管理、基于嵌入的检索以及数据生命周期治理等关键策略。
我们是否低估了AI代理记忆可能带来的危险?
讨论了赋予AI代理记忆的风险,包括信任问题、数据投毒和运营风险,并向构建者提出了关键问题。
智能体的记忆尚未成熟
对当前AI智能体记忆解决方案的批评,认为RAG包装器及类似方法未能解决模型偏见和上下文膨胀的核心问题。