智能体AI记忆不是囤积问题,而是剪枝问题。
摘要
作者认为,AI代理的记忆应侧重于数据剪枝而非囤积,借鉴人类记忆类型(感觉记忆、短期记忆、长期记忆),并指出模仿人类记忆可以在减少令牌用量的同时维持高质量上下文。
研究这个问题几个月后,我得出的结论是:记忆中的数据囤积并非解决之道,剪枝才是关键。更重要的是你如何以及剪掉了系统中的哪些内容,而非你保留了哪些。这与人类记忆事物的方式非常相似。如果我们简而言之,人类保留三种记忆:感觉记忆、短期记忆和长期记忆。感觉记忆无法复现,短期记忆就是你的会话上下文窗口。真正需要解决的是长期记忆。人类并不会在长期记忆系统中囤积信息,而是随时间推移对信息进行剪枝。而且这种剪枝并非均匀进行。它们还可以进一步细分,以决定其衰减速率。例如,人类有两种长期记忆:语义记忆和情景记忆。人类往往能长时间记住情景记忆而无需反复回忆,因为其中附带了某种创伤,因此其重要性高于语义记忆。现在,如果我们围绕人类记忆系统来建模我们的智能体记忆系统,我们将能够以更少的令牌消耗产生高质量的上下文。在这个方向上已取得了一些进展,以下是我的发现分享。
相似文章
AI记忆应如何表现?
对AI记忆系统现状的分析,认为焦点已从存储更多数据转向定义记忆应如何表现——涵盖治理、可观测性、生命周期管理和互操作性。
AI 智能体运行时间越长,你花费在管理其记忆上的时间就越超过实际使用它的时间。
本文重点讨论了随时间推移管理 AI 智能体记忆时日益严重的问题:用户花费更多精力维护上下文,而非实际使用智能体。文章指出,目前缺乏用于记忆衰减和治理的基础设施。
智能体真的需要记忆吗?还是我们用它来弥补架构不佳?
本文探讨了AI智能体中的记忆是必不可少的,还是对不良架构的变通方案,并询问从业者在生产系统中需要持久化哪些内容。
你认为智能体记忆主要是一个AI问题,还是一个恰好被AI使用的基础设施/数据管理问题?
对智能体记忆主要是一个基础设施/数据管理问题而非AI问题的反思,聚焦于权限、范围、修订历史等实际复杂性。
AI智能体拥有强大的记忆能力,但毫无记忆卫生可言。六个月后会是什么样?没人谈论这一点。
探讨了AI智能体中被忽视的记忆卫生问题——长期存储导致上下文过时且不可靠,并质疑行业是否在忽视一个即将到来的全球性问题。