AI记忆仍然一团糟是有原因的
摘要
文章批评AI记忆工具依赖简单的向量存储,导致数据过时和矛盾等问题,并呼吁引入高级功能,如类型化提取、矛盾处理和实体解析。
每个记忆工具都只是一个包裹着向量存储的玩意儿,你将对话嵌入并存入数据库,当需要时它会拉回最相似的内容。我在生产环境中构建智能体,用户身上会发生这样的事情:一个用户在会话4中告诉智能体他们从Delhi搬到了Mumbai,但在会话7中智能体却推荐了Delhi的餐厅,因为旧的嵌入得分更高。用户改变偏好后,存储保留了两个版本,模型随机选择,而这并不是模型的问题,是记忆不知道什么发生了变化。我需要一些能进行类型化提取的东西,这样它就能区分事实、偏好和事件,同时处理矛盾以替换旧事实,并通过实体解析让一个人的多种提及保持为一个条目。我有什么选择?
相似文章
AI智能体的内存层彻底失效
一位开发者测试了四款针对AI智能体的记忆SDK,发现它们无法处理事实变化和实体解析,表明当前记忆工具存在重大缺陷。
AI记忆正成为新的技术债务。
文章警告说,虽然AI记忆系统在演示中令人印象深刻,但它们常常导致过时的事实、冲突的偏好和损坏的摘要,从而造成未来的调试噩梦和技术债务。
大多AI记忆系统是无意间只增不减,而非有意为之。后果显而易见。
本文批评AI记忆系统默认采用只增不减的机制,导致随时间推移产生冲突信号和知识管理不善,并质疑是否有人真正在解决这一问题,而不仅仅是依赖更好的嵌入技术。
我们是否都在悄悄重建记忆系统,因为当前AI的长期记忆实际上并不奏效?
文章讨论了当前AI记忆方案在生产中常见的失败情况,如事实陈旧、摘要漂移和供应商锁定,指出真正的瓶颈在于记忆治理而非检索。
AI记忆应如何表现?
对AI记忆系统现状的分析,认为焦点已从存储更多数据转向定义记忆应如何表现——涵盖治理、可观测性、生命周期管理和互操作性。