我开始觉得“记住一切”对AI记忆来说是个错误目标
摘要
本文批判了企业AI记忆系统中“记住一切”的思路,主张将当前状态与历史记录分开存放,以防智能体使用过时信息。
最近我花了大量时间思考企业记忆问题。起初这看似很简单:重要决策在Slack对话、会议记录和散乱文档中逐渐消失。解决方案似乎是收集所有内容,建立可搜索库,让智能体提取相关上下文。问题看似迎刃而解,团队本可轻松收工。但存在一种令人不安的故障模式:假设团队一月决定使用PostgreSQL,决策过程及所有依据都被完整记录;半年后团队以同样充分的理由迁移到MySQL。此时记忆库中存在两个决策记录——两者皆真实有效,均有充分佐证,都能被成功检索。但今天只有一个决策应当指导智能体。记忆系统并未存储失败,检索机制也未出错,智能体甚至找到了高度相关的内容——只是这内容对应着错误的现实版本。坦白说,这比智能体回答“我不知道”更危险。没有记忆的智能体会主动提问,而拥有过时记忆的智能体却会自信地复活早已被否决的决策。因此我认为智能体需要两种记忆视图:当前状态视图包含团队最新共识,历史决策视图包含过往决议、被否选项及其依据。智能体基于前者开展工作,人类则在需要理解缘由、排查错误或质疑现状时查阅后者。旧决策不应被删除,但也不该在每次智能体检索上下文时与当前决策产生冲突。需要说明的是,这个问题源自我在Verbasil项目的实践探索。研究越深入,我越认为“更多记忆”并不必然造就更优的智能体——有时它只会制造出记忆力超群但判断力拙劣的人工智能。你们是如何应对这个问题的?是允许智能体访问完整历史,还是维护独立的现实版本?
相似文章
我们是否都在悄悄重建记忆系统,因为当前AI的长期记忆实际上并不奏效?
文章讨论了当前AI记忆方案在生产中常见的失败情况,如事实陈旧、摘要漂移和供应商锁定,指出真正的瓶颈在于记忆治理而非检索。
AI记忆应如何表现?
对AI记忆系统现状的分析,认为焦点已从存储更多数据转向定义记忆应如何表现——涵盖治理、可观测性、生命周期管理和互操作性。
我认为AI代理没有记忆问题,而是存在状态完整性问题。
作者认为AI代理存在状态完整性问题而非记忆问题,并提出一个状态账本(State Ledger)来区分历史事实与当前状态,并跟踪来源。
智能体AI记忆不是囤积问题,而是剪枝问题。
作者认为,AI代理的记忆应侧重于数据剪枝而非囤积,借鉴人类记忆类型(感觉记忆、短期记忆、长期记忆),并指出模仿人类记忆可以在减少令牌用量的同时维持高质量上下文。
智能体记住一切听起来很有用,直到它记错了那些乱七八糟的东西
作者批评了让智能体记住一切的想法,并介绍了TrueMemory,这是一个将记忆转化为带有置信度和证据的特质主张的系统,旨在更好地校准智能体行为。