有没有其他人的智能代理会自信地“记住”已经变化的内容?

Reddit r/AI_Agents 新闻

摘要

用户描述了一个问题:AI智能代理会自信地从记忆层中检索过时的事实,而不标记变化,并询问社区如何使旧的记忆失效或跟踪事实时效性。

最近遇到了这个问题,想知道是不是只有我这样。我的智能代理会跨会话记住用户/数据的事实(使用记忆层),这很好,直到某些东西发生变化。比如,它会自信地告诉用户上个月真实但现在已经不真实的信息,而且没有错误、没有标记,什么都没有。它听起来很确定,但其实是错的。烦人的是,旧事实和新事实都存在于记忆中,旧事实同样容易被检索到。衰减机制可以处理那些没人关心的事实,但对于实际发生了变化的高价值事实,这并不能真正解决问题。你们都是怎么处理的?是手动使旧的记忆失效?从头重建?还是就这么接受?或者有没有工具可以实际跟踪一个事实何时不再成立?诚心发问,不是推销。感觉这是每个人都遇到过但没人谈论的事情之一。
查看原文

相似文章