@akshay_pachaar: https://x.com/akshay_pachaar/status/2104938749679607902
摘要
这篇文章探讨了如何将任务分割在对话轮次中会降低代理准确性,并提出了一种使用上下文特定检索类型来保持准确性的记忆系统,其中以开源 Graphiti 引擎为例进行了实践演示。
查看缓存全文
缓存时间: 2026/09/29 15:51
智能体记忆并非搜索问题
研究涵盖了15个模型和超过20万次模拟对话后发现:将任务拆分到多个交互轮次中,平均会导致39%的准确率损失。若将相同内容整合到单轮交互中,即使没有增删任何信息,也能恢复大部分损失。
因此答案取决于上下文的组织方式。在智能体中,记忆系统会在模型运行前,为每一轮交互做出这个决策。
几乎所有记忆系统都采用相同的方式处理:存储所有消息,从中提取陈述,运行相似性搜索,然后返回得分最高的片段。
当问题是“他们对X说了什么”时这种方式有效,但当问题是“何时发生了什么变化”时就会失效。
如果客户在三月表示使用标准套餐,五月又表示已升级到企业套餐,相似性搜索可能同时返回两条陈述。两者都相关,但都没有说明后者取代了前者。
差距不在于系统的检索能力,而在于用同一种片段试图回答所有类型的问题。
解决方案是:以多种形式检索相同记忆,每种形式针对不同类型的问题构建。
今天,我们将基于开源的Graphiti引擎为智能体测试一个记忆层,并解析现代智能体记忆系统需要的六种上下文类型。通过一个贯穿始终的客户历史案例,我们将展示如何针对问题塑造上下文,帮助智能体使用最新事实、保留精确细节,并避免基于过时上下文产生错误的确信回答。
这是一篇实操性文章,你可以轻松适配到自己的场景中。
收藏本文或将其发送到智能体的对话中,它会理解我们的意图并适配到你自己的用例。
让我们开始吧。
记忆在模型运行前就已完成
模型本身没有记忆。每次API调用都是独立的。智能体在第二十轮交互中关于某人的所有信息,都是因为外部系统预先将其放入了提示词中。
这个外部系统就是记忆系统,它在模型被调用前就已完成了全部工作。
它受限于三个条件:
- 固定的上下文令牌预算
- 无限的历史记录可供调用
- 需要从一条传入消息中解析出关键信息
存储是简单的环节。将所有消息写入数据库已是成熟方案,每个记忆产品都能做好。系统之间的差异体现在选择环节。
当厂商宣称自己的记忆更好时,几乎都是指选择策略更优。没有人因为未能保存数据而失败。
智能体记忆的四个世代
智能体记忆经历了四次重构,每次重构都解决了前代的问题,但也引入了新缺陷。
传递完整对话
将完整历史粘贴到每个提示词中。简单直接,只要对话保持简短就能保证正确性。
这种方式会在长度和成本上崩溃。但早在触及这两个限制之前,它就会在质量上失效——因为随着输入增长,模型准确率会下降,远在填满上下文窗口之前。
滚动摘要
将历史压缩为滚动摘要,令牌数量不再增长。
问题在于摘要器会丢弃什么。它保留核心内容而舍弃具体细节,而这些细节往往是智能体正确执行任务所需的:日期、ID、错误代码、精确数值。
分块嵌入
将每条消息存储为向量。查询时返回最相似的k个片段。
它检索的是与问题相似的内容,但这与当前事实并不等同。一个陈述和取代它的新陈述,在嵌入模型看来几乎相同。两者都会返回,但都不会被标记为当前状态。
构建知识图谱
不再存储文本并进行搜索,而是从数据中提取实体及其关系。
客户和他们的数据管道成为节点。“拥有”成为连接两者的边。套餐变更成为携带生效日期的边。
这是关键转变。存储单元不再是文本,而是结构。 而结构可以被多种方式解读:
- 追踪单条连接,获得一个精确陈述
- 收集连接某个节点的所有连接,获得该实体的描述
- 观察连接集群的关系模式,获得无人记录的规律
前三代记忆只提供了一种读取存储内容的方式。而图谱从相同的底层数据中提供了多种读取方式。
这正是本文后续要探讨的特性。
领域借用的标签
在探讨这些具体方式之前,需要先澄清一个概念——因为它几乎出现在每个记忆产品的文档中。
一旦系统开始提取结构,就需要为存储的内容类型建立术语体系。该领域借鉴了认知心理学的分类法,有三个术语值得明确说明:
- 语义记忆是你知道的事实。例如:巴黎是法国首都。
- 情景记忆是你经历过的事件。例如:你去年三月去过巴黎。
- 程序记忆是你掌握的技能。例如:骑自行车。
这些概念源于数十年前对人类记忆的研究,远早于智能体系统的出现。
问题在于:
这个分类法按记忆内容分类。 它告诉你存储项目的主题,却未说明如何检索该项目。
实践中,这些标签通常毫无作用。系统允许你将记忆标记为三者之一,存储标签后,却仍以相同方式检索所有内容。标签从未成为检索路径。
现在看看当人们衡量记忆而非描述记忆时发生了什么。
智能体长期记忆的标准基准测试评估五种能力:
- 信息提取:从长历史中提取特定细节
- 多会话推理:连接不同会话中的表述
- 知识更新:处理替代旧事实的新事实
- 时间推理:回答关于事实何时成立的问题
- 拒绝回答:判断历史记录中是否包含答案
这五种能力中,没有一种是语义、情景或程序记忆。
衡量记忆的人按系统需要具备的能力组织分类;描述记忆的人则按记忆内容的主题分类。
只有前者能产生可执行的工程决策。
六个问题,六种形态
以下是支持智能体在普通一周内通常会收到的六类问题:
“何时发生了什么变化?” 需要带日期的小型陈述,能被标记为不再有效而非删除。
“介绍一下这个事物。” 需要整合数十条独立陈述后形成的维护性描述。
“客户原话是怎么说的?” 需要未经修改的原始文本。
“那次会话最终如何?” 需要属于整个会话(而非其中任何单个陈述)的结果记录。
“为什么这个问题总是发生?” 需要跨越会话、无人明确记录的模式。
“你好。” 新会话的第一条消息。无内容可供搜索。需要在查询前就存在的信息。
将这些与五种基准能力对比:
- 知识更新和时间推理都需要带边界的带日期陈述
- 多会话推理需要跨会话模式
- 信息提取需要描述性内容和原始文本
Zep如何解决
Zep是面向AI智能体的记忆层,基于他们开源的时间图谱引擎Graphiti构建。
你从数据源发送对话和业务记录,它会从中构建时间知识图谱,不仅跟踪当前事实,还记录每项事实的起止时间。
在每一轮交互中,它将图谱的相关部分组装成文本块,放入智能体的提示词中。
关键在于Zep返回的不是单一形态。它定义了六种上下文类型,对应上述六个问题。
检索它们只需一次调用,通过改变范围实现:
一个客户历史案例
我们在Zep中实际构建了一个上下文图谱来测试这一点。
以下所有内容均来自同一个虚构数据平台的简短合成历史。
普里亚·拉曼是北风物流公司的高级数据工程师。三月,她设置了一个名为orders_ingest的管道,通过自托管连接器从Postgres读取货运订单。
五月,她在一次对话中报告了两件事:团队在4月28日升级到企业套餐;orders_ingest在夜间因模式漂移错误失败。
部署和工单记录补充了连接器版本、集群信息和工单状态。
八月,普里亚发起新对话,发送了一条消息:“你好”。
针对这段历史的六个问题,将得到六种不同的答案。
让我们逐一解析每种上下文类型。
1. 事实
Zep中的事实是连接两个实体的陈述,存储在图谱边上。它携带四个时间戳:
- valid_at和invalid_at标记该陈述在世界中何时开始和停止生效
- created_at和expired_at标记Zep获知这些事件的时间
举例说明:用户三月结婚,Zep直到四月才处理相关数据。该事实的valid_at是三月,created_at是四月。
此时若询问用户三月是否已婚,模型能正确回答,因为图谱知道事实生效时间与系统发现时间的区别。
在我们的案例中:客户4月28日从标准套餐升级到企业套餐,但直到5月8日才在消息中提及。
返回两条事实:企业套餐陈述在4月28日生效,标准套餐陈述在4月28日失效。两者之间既无间隔也无重叠。
对话日期与变更日期不同,检索到的上下文同时保留了两者。
注意这里没有发生什么:Zep在获知升级信息时并未覆盖标准套餐记录,而是关闭了时间区间。两个版本都保留在图谱中,因此智能体仍能回答上季度的情况。
相似性搜索同样能同时保存这两条陈述,但其中没有任何信息表明一个取代了另一个。
2. 实体
实体是Zep从数据中提取的命名对象:个人、公司、产品、管道。每个实体都带有Zep根据新事实动态更新的描述。
问题:“介绍一下orders_ingest管道。”
关于该管道的独立陈述检索正常。但历史跨越数月和数十条独立陈述,智能体每轮都需从片段中重构完整画面。
这段描述综合了数周前后的消息。无人撰写此描述。它涵盖了管道功能、处理量和数据来源。
值得注意的是:实体描述按段落形式撰写以便阅读,但段落不携带有效区间。事实陈述则设计为可验证的,而可验证的陈述读起来不像简报。
仅掌握实体摘要的智能体会表达流畅但可能出错;仅掌握事实的智能体则正确但混乱,每轮都需从头重构客户历史。
3. 情景记录
情景记录是发送给Zep的原始消息、文本和记录,与派生内容并行存储。
它们是图谱其他部分的底层真实来源层。
问题:“客户实际报告了什么?”
普里亚的消息包含字段名、类型不匹配、错误代码和字节偏移量。提交上游工单的人员需要这些精确的原始表述。
提取的事实也能包含错误代码。情景记录增加的是对源内容本身及其周边表述的访问权限,使智能体可以引用而非转述。
当智能体需要展示证据而非总结时,应调用情景记录。
4. 会话摘要
会话摘要覆盖单次对话而非客户的全部历史。Zep在消息到达时增量构建它。
问题:“模式漂移问题如何解决的?结果如何?”
该对话包含多个步骤:普里亚报告故障;支持团队建议类型转换;普里亚应用后确认管道恢复正常;最后她表示根本原因从未查明。
服务恢复了,但问题根因未解决——这是两个不同结果,下一次支持对话需要同时了解两者。
独立的事实只能描述结果的片段,而摘要将对话打包成智能体可直接操作的层级,无需重新组装。
5. 观察记录
观察记录描述的是跨图谱的模式、决策和关系,而非单个连接。它们基于证据,可通过查询检索,与其他搜索范围类似。
我们在观察记录文章中介绍了聚类机制及其检测方式…
Akshay 🚀@akshay_pachaar·8月9日 文章《你的智能体记住了一切却一无所知》智能体记忆就像多年前的分析系统:只返回你询问的内容。后来分析系统开始主动揭示数据变动及其原因,无需明确查询。智能体记忆尚未实现…
问题:“这些故障有什么共同点?”
此问题需要更长的历史记录,以下示例使用另一个包含三次模式漂移事件和每次事件前计划回填作业的独立案例。
观察记录将三次事件和三次计划作业整合为一个描述。历史记录中没有任何消息明确陈述这种关联,它只存在于记录之间的相互关系中。
观察记录为智能体提供了一个值得调查的重复序列,但并未证实回填作业导致了故障。
6. 用户摘要
用户摘要附加在客户图谱的中央节点上,概括该用户过去所有对话的核心信息。
它不因传入消息而过滤,属于背景信息而非查询答案。
普里亚发送“你好”发起新对话
该消息无内容可供搜索,但Zep已持有她的历史记录。
这使得第一轮交互就能运作:其他五种类型需要匹配内容,而用户摘要则直接存在。
对于回访客户,这意味着智能体可以从其角色、配置和待处理问题开始交互,无需让客户再次自我介绍。
无需手动组装六种类型
六种类型可能意味着六次搜索、选择搜索范围的决策以及每个范围的调优限制——但实际并非如此。
thread.get_user_context()返回一个Zep为你构建的单一上下文块:
其背后是智能上下文组装技术。它跨六种类型检索,将五种可搜索类型的候选项共同排序(而非分别排序),并按字符预算填充上下文块。
智能上下文组装让上下文形态跟随问题变化:关于套餐变更的问题会侧重返回事实记录;新对话的“你好”则侧重用户摘要。
较小的上下文块消耗更少,能为提示词的其他部分留出更多上下文窗口。
你也不必在所有智能体中使用全部六种类型。从默认块开始,观察智能体哪些地方出错,然后将每种错误映射到能解决该问题的上下文形态:
- 处理一次性查询的智能体可能只需要事实记录
- 无跨会话历史的智能体无法从观察记录中获益,因为尚未形成模式
- 用户到达时已进入任务状态且已认证的智能体,从用户摘要中获益较少
将任务拆分到多个…
相似文章
@_avichawla:为你的Agent构建类人记忆(开源)!每个智能体和RAG系统在实时知识方面都面临挑战……
Graphiti是一个开源工具,通过持续演进且具有时间感知的知识图谱,为AI代理构建类人记忆,相比MemGPT,准确率最高提升18.5%,延迟降低90%。
@akshay_pachaar: 你的智能体记性很好,但理解力为零。大多数智能体记忆系统都在优化回忆能力。但更难的问题是……
一则关于智能体记忆中模式(Schema)约束重要性的讨论,介绍了 Zep AI 的开源 Graphiti 库,该库用于构建受约束实体和关系类型的时序知识图谱。
@akshay_pachaar:智能体记忆的 6 种上下文类型。(仅检索事实并不等于记忆)智能体可能需要当前的真相、原始的精确措辞、会话的结果,或跨多个对话的模式……
文章拆解了智能体记忆的六种上下文类型——事实、实体、事件片段、对话线程摘要、观察和用户摘要——并指出优秀的记忆系统只存储一次历史,却以不同形式读取它。文中介绍了 Zep 及其开源时序知识图谱框架 Graphiti,它将各种上下文类型组装成智能体的固定预算上下文块。
@akshay_pachaar: https://x.com/akshay_pachaar/status/2086451430580470095
本文解释了当前的智能体记忆系统如何存储和检索事实,但无法识别模式,并介绍了 Zep 的 Observations 功能,该功能通过分析知识图谱来得出结构性见解。
@akshay_pachaar: https://x.com/akshay_pachaar/status/2058976178908885210
解释了如何通过使用Pydantic模式定义本体来修复代理记忆,实现结构化提取到知识图谱中以进行多跳推理,并提供了一个开源解决方案(Zep)。