标签
这条推文提出了一个关于大规模部署RAG聊天机器人的技术面试问题，解释了常见的陷阱如状态持久性，并指向Akamai的GitHub仓库和开发者中心以获取参考实现。
作者描述为新闻阅读AI智能体构建了一个内存层，以处理去重问题并提升跨会话连续性，采用了SQLite、向量存储以及Python API、CLI和MCP服务器。
本文认为，智能体记忆系统的评估只看召回率，而不看召回的事实是否仍然为真；并提出一个“过时正确性”（correctness under staleness）基准，结果显示向量存储在 68% 的情况下会返回过时事实。
文章澄清了经典 RAG（无状态）与智能体记忆（有状态）之间的区别，并介绍了两种新兴方法：Mem0 采用三层记忆和自动编辑，Letta 采用类操作系统的记忆（核心/归档）。文章强调，真正的挑战是更新和遗忘的逻辑，而不是向量存储。
认为向量数据库不适合存储业务记录（如订单、余额等），因为语义相似性并不能保证事实的正确性；建议对结构化数据使用 SQL，而向量数据库仅用于非结构化信息。
Oracle 的 AI 数据库现在包含了用于基于嵌入的图像搜索的向量存储功能，展示了创新特性，使其成为一个统一的数据存储解决方案。