智能体记忆系统应具备纠正能力,而不仅仅是存储?
摘要
探讨智能体记忆系统中纠正机制的必要性,超越存储,涵盖来源追踪、置信度、过期和审计追踪。
许多关于智能体记忆的讨论都集中在增加更多上下文上:向量存储、摘要、用户画像、项目日志、长期记忆等。我发现经常被忽略的部分是纠正。如果智能体存储了错误的偏好、过时的项目决策、糟糕的摘要或临时约束,系统接下来应该做什么?我目前的看法是,可用的记忆至少需要:
- 每个持久记忆附带来源
- 不确定事实的置信度或状态
- 明确的纠正路径
- 临时上下文的过期时间
- 变更假设的审计轨迹
- 偏好当前决策而非旧摘要的检索
人们实际在实现什么?仅追加的记忆看起来容易构建,但一旦智能体跨多个项目或运行数周,就会变得有风险。
相似文章
智能体记忆应该有动词,而不仅仅是存储
本文批评了当前将智能体记忆仅仅视为存储问题的框架,认为记忆应具有类型化角色、新鲜度和权威级别,以防止过时或错误的信息被当作真理。
每个智能体记忆系统都用召回率做基准,却几乎没人检查记忆是否仍然真实
本文认为,智能体记忆系统的评估只看召回率,而不看召回的事实是否仍然为真;并提出一个“过时正确性”(correctness under staleness)基准,结果显示向量存储在 68% 的情况下会返回过时事实。
AI智能体应以人类可审计的形式记住哪些信息?
本文探讨了为AI智能体设计可供人类审计的记忆系统,建议引入来源、范围和过期规则等字段,以保持清晰性并防止信息过时。
理解智能体记忆(38分钟阅读)
本文比较了三种常见的智能体记忆系统形态——基于文件的、结构化存储和基于经验的,并通过一个使用常见智能体循环和开源模型的基准测试评估了它们的有效性。
智能体记住一切听起来很有用,直到它记错了那些乱七八糟的东西
作者批评了让智能体记住一切的想法,并介绍了TrueMemory,这是一个将记忆转化为带有置信度和证据的特质主张的系统,旨在更好地校准智能体行为。