智能体记住一切听起来很有用，直到它记错了那些乱七八糟的东西

Reddit r/AI_Agents 工具
agent-memory trait-claims memory-calibration confidence personalization ai-agents

摘要

作者批评了让智能体记住一切的想法，并介绍了TrueMemory，这是一个将记忆转化为带有置信度和证据的特质主张的系统，旨在更好地校准智能体行为。

我并不真的希望智能体记住一切。这在演示中听起来不错，但随后智能体拖出一些旧的偏好、过时的项目事实、我随口说过的半真半假的话，突然就以最烦人的方式变得“个性化”了。我想要的是更小的东西。在智能体行动之前，它应该对以下问题有所了解：这个人通常偏好什么？有多少证据支持这一点？它仍然有效吗？用户是否反驳过它？这真的应该改变下一步行动吗？这就是我正在用TrueMemory构建的东西。它把记忆转化为特质主张。比如沟通风格、决策风格、工具偏好、质量与速度、反馈风格等，所有这些都附带置信度和证据。目标不是“智能体了解我”。这个说法听起来就有点不妙。目标是更平淡的：智能体不再表现得每次会话都从零开始，同时也知道它对我的模型可能出错。我觉得很多关于智能体记忆的内容都跳过了这部分，只是谈论检索。有没有其他人也在研究将记忆作为校准工具，而不仅仅是回忆？
查看原文

相似文章