如果你无法纠正AI的信念,那你拥有的就不是记忆系统,而只是一个只写日志。
摘要
本文批评当前AI记忆系统仅仅只是无法被纠正、更新或溯源至来源的只写日志,认为真正的记忆需要一个治理层。
无法更新、纠正或追溯来源的记忆,在任何有意义的角度上都不能称之为记忆。它只是没有治理层的累积上下文。该领域从认知科学借用了“记忆”一词,却跳过了记忆可以被修正、质疑和遗忘的部分。
相似文章
我们是否都在悄悄重建记忆系统,因为当前AI的长期记忆实际上并不奏效?
文章讨论了当前AI记忆方案在生产中常见的失败情况,如事实陈旧、摘要漂移和供应商锁定,指出真正的瓶颈在于记忆治理而非检索。
我认为AI代理没有记忆问题,而是存在状态完整性问题。
作者认为AI代理存在状态完整性问题而非记忆问题,并提出一个状态账本(State Ledger)来区分历史事实与当前状态,并跟踪来源。
AI记忆应如何表现?
对AI记忆系统现状的分析,认为焦点已从存储更多数据转向定义记忆应如何表现——涵盖治理、可观测性、生命周期管理和互操作性。
为什么代码有版本控制但AI记忆没有?
文章指出,与代码版本控制相比,AI记忆系统缺乏版本控制和可观测性,并质疑当前记忆历史工具的状态。
大多AI记忆系统是无意间只增不减,而非有意为之。后果显而易见。
本文批评AI记忆系统默认采用只增不减的机制,导致随时间推移产生冲突信号和知识管理不善,并质疑是否有人真正在解决这一问题,而不仅仅是依赖更好的嵌入技术。