用于免训练多跳问答的图与文本记忆协同进化

arXiv cs.CL 论文

摘要

提出Co-E,一种免训练系统,同步图记忆与文本记忆用于多跳问答,在六个基准上优于可比的免训练基线。

arXiv:2607.23278v1 公告类型: 新 摘要:多跳问答需要在推理步骤中协调关系证据和文本证据,这种组合单靠语料库或知识图谱都无法提供。先前的工作往往只强调这个循环的一部分:图增强RAG从预构建或查询更新的图中检索,KGQA系统在主题中心子图中搜索,记忆增强代理维护不断演变的记忆,但未能持续协调图记忆与文本上下文。我们提出Co-E,一种基于同步双向图-文本工作记忆的免训练系统。同步循环整合文本记忆,将关系三元组提取到图记忆中,并将图事实注入生成上下文。由于两种记忆都得到维护,它们会塑造后续的检索和生成。在六个多跳QA基准上评估,Co-E优于可比的免训练开源骨干基线,并与更大或经过训练的系统竞争。
查看原文
查看缓存全文

缓存时间: 2026/07/28 06:28

# 图-文共同演化记忆:无需训练的多跳问答系统
来源:https://arxiv.org/html/2607.23278
Thien Huu Nguyen 俄勒冈大学,美国 thienn@uoregon\.edu

###### 摘要

多跳问答需要在推理步骤间协调关系证据和文本证据,而单独的文本语料库或知识图谱都无法同时提供这两者。先前的工作往往只强调这一循环中的一部分:图增强RAG从预构建或查询更新的图中检索,KGQA系统在以主题为中心的子图中搜索,而记忆增强代理则维护不断演化的记忆,却未能持续协调图记忆与文本上下文。我们提出Co-E,一个围绕同步双向图-文本工作记忆构建的无需训练系统。其同步周期整合文本记忆,提取关系三元组并入图记忆,并将图事实注入生成上下文。由于两种记忆都被维护,它们塑造了后续的检索与生成。在六个多跳问答基准上,Co-E在可比的无训练开源骨干基线中表现优越,并能与更大或经过训练的系统竞争。111代码库见 https://github.com/hieum98/wemg

# 图-文共同演化记忆:无需训练的多跳问答系统

Hieu Man 俄勒冈大学,美国 hieum@uoregon\.edu Thien Huu Nguyen 俄勒冈大学,美国 thienn@uoregon\.edu

## 1 引言

检索增强生成(RAG)已成为知识密集型问答的主导范式(Zhao 等人,2024;Singh 等人,2026)。然而,多跳问题揭示了一个比检索召回更深的局限性。后续证据往往依赖于仅在前一跳被解决后才发现的实体、关系或约束。一段文本可能揭示一个桥接实体,从而应扩展图的边界;一条图边可能揭示一个约束,从而应重塑下一个文本查询。标准的RAG流程无法进行这种更新,因为它们在选择上下文时推理尚未展开。同样,依赖于预构建语料图或固定主题中心候选子图的图增强方法,无法在推理过程中完全修正其关系状态,导致错失桥接实体、保留噪声边和不完整路径。核心挑战在于维护一种推理状态,其中文本证据和关系结构在构建答案的过程中相互修正。

现有系统解决了部分问题,但通常偏向于推理状态的一侧。语料图RAG系统在推理前构建图索引并从中检索(Dong 等人,2026;Ma 等人,2026;Zhou 等人,2026b)。KGQA系统如ToG(Sun 等人,2024)和ToG 2.0(Ma 等人,2025)改进了基于知识图谱的推理,但依赖于预先存在的拓扑结构,且不维护配对的文本工作记忆。图搜索方法如MCTS-KBQA(Xiong 等人,2025)和ReKG-MCTS(Song 等人,2025)遍历固定边界而非扩展它。另一条并行路线是为代理配备演化记忆:HGMem(Zhou 等人,2026a)从检索文本构建超图记忆,SubQRAG(Li 等人,2025a)累积提取的三元组作为图记忆,而SE-Search(Li 等人,2026a)、MemSearch-o1(Zhang 等人,2026)和A-MEM(Xu 等人,2025)维护文本或反思性记忆。这些系统表明维护的记忆是有用的;但文本记忆和图记忆如何在同一个推理循环中相互修正,这一点仍较少探索。

我们认为这种耦合需要图与文本在同一推理步骤内的双向共同演化。当一段文本提及一个新实体时,它应可用于图的扩展;当一个三元组被提取或检索到时,它应进入下一个生成步骤的文本上下文。缺少任何方向,系统要么积累非结构化文本而必须从头重新解释,要么遍历一个包含有用事实却未暴露给生成器的图。我们引入了Co-E(共同演化),一种围绕同步图-文本工作记忆构建的无需训练的多跳问答系统。Co-E维护一个共享记忆,其中包含两个耦合的存储:与问题相关的文本片段和图记忆(包括知识图谱模式三元组和开放词汇三元组)。在每个步骤,Co-E从文本和知识图谱流中检索,过滤证据,并应用一个四操作同步周期:整合文本证据,提取三元组并合并入图记忆,将存活的图事实注入回文本记忆,并重新整合上下文。这个周期让文本扩展图的边界,同时图结构为后续生成提供基础。由于相同机制在推理时运行,Co-E无需微调,既适用于多跳文本问答也适用于KGQA场景。

实验上,Co-E在涵盖文本问答和KGQA的六个基准上取得了强劲结果。使用Qwen3-8B骨干模型且无需训练,Co-E在2WikiMultiHopQA上达到72.6的精确匹配(EM),在Bamboogle上达到70.0 EM,在CWQ上达到74.9的Hits@1,优于可比的开源骨干基线,并能与更大或经过训练的系统竞争。

## 2 相关工作

我们根据证据在多跳推理过程中的表示和更新方式组织先前工作。

**基于语料的检索与代理搜索。** 基于语料的RAG方法将复杂问题分解为子查询,并交错检索与中间推理。IRCoT(Trivedi 等人,2023)交替进行检索和思维链推理,而HopRAG(Liu 等人,2025)、ComposeRAG(Wu 等人,2025)和RT-RAG(Shi 等人,2026)改进了查询分解、结构化提示或推理树构建。一条相关线路训练或提示代理进行多轮搜索,如Search-R1(Jin 等人,2025)和MR-Search(Xiao 等人,2026)。这些系统使检索具有适应性,但证据主要仍然是文本。关系结构必须从片段推断,而非作为显式状态维护。Co-E通过图记忆补充了自适应检索,使得实体和关系对后续检索和生成可用。

**图增强RAG与知识图谱推理。** 图增强方法为RAG添加结构化证据,但许多依赖于在推理轨迹之前或之外固定的图结构。语料图系统如HippoRAG 2和C2RAG(Gutiérrez 等人,2025; Ma 等人,2026)在文本上构建类图索引,并在推理时从中检索。EA-GraphRAG(Dong 等人,2026)、GraphAnchor(Liu 等人,2026)、PAGER(Li 等人,2026b)和Graph-R1+EKA(Wang 等人,2026)改进了结构化证据的检索时机或方式。KGQA系统在选择图边界方式上有所不同。学习/子图系统如SubgraphRAG(Li 等人,2025b)、GNN-RAG(Mavromatis and Karypis,2025)和iQUEST(Wang and Yu,2025)在将证据交给大语言模型(LLM)之前学习或计算查询特定子图。实时知识图谱方法如ToG(Sun 等人,2024)、ToG 2.0(Ma 等人,2025)、PoG(Tan 等人,2025)、Interactive-KBQA(Xiong 等人,2024)、MCTS-KBQA(Xiong 等人,2025)、ReKG-MCTS(Song 等人,2025)和KERAG(Sun 等人,2025)专注于在推理过程中遍历或查询知识图谱。经过训练的图推理系统如RoG(Luo 等人,2024)、KBQA-R1(Sun 等人,2026)和GraphWalker(Xu 等人,2026)通过监督学习或强化学习改进了检索或推理。这些系统提供了强大的图检索;Co-E则专注于在推理过程中同步结构化和文本工作状态。

参考图注 图1:Co-E框架。左:MCTS模式,其中同步的共享记忆引导树的扩展。右:四阶段推理循环。每一步从共享图-文本记忆M\(^{(t)}\)生成子查询,检索文本片段S\(^{(t)}\)和图三元组R\(^{(t)}\),生成中间答案,并应用双向同步Sync来产生下一步的记忆M\(^{(t+1)}\)。

**记忆增强推理。** 记忆增强推理系统在推理或搜索步骤间维护中间状态,无论是文本、图还是两者兼有。HGMem(Zhou 等人,2026a)从检索文本构建超图记忆。在图记忆系统中,SubQRAG(Li 等人,2025a)与Co-E最为接近:它分解问题,在图不足时查阅源文档,并将提取的三元组积累到图记忆中。SE-Search(Li 等人,2026a)通过“思考-搜索-记忆”循环纯化证据,MemSearch-o1(Zhang 等人,2026)增长与推理对齐的记忆路径,A-MEM(Xu 等人,2025)回溯性地修正文本笔记。这些工作表明记忆应该被维护,而不仅仅是积累。Co-E是互补的:它不将记忆视为单纯的文本笔记存储或仅图轨迹,而是维护配对的文本和图记忆,并在每个推理步骤后对它们进行协调。因此,图事实被注入回文本上下文中,从而影响后续的检索和生成。

## 3 方法

### 3.1 系统概述

给定一个问题\(q\),Co-E通过一个迭代推理过程在共享的图-文本记忆上回答它。在步骤\(t\),记忆表示为:
\[
\mathcal{M}^{(t)} = \bigl(\mathcal{T}^{(t)}, \mathcal{G}^{(t)}\bigr)
\]
其中\(\mathcal{T}^{(t)}\)是文本记忆,\(\mathcal{G}^{(t)}\)是图记忆。Co-E在每次推理步骤后更新这两种记忆,同时生成最终答案\(a\)。与将检索到的图上下文视为固定不变的处理方式不同,Co-E主动维护\(\mathcal{G}\):它可以添加从文本派生的三元组,剪枝无关边,并将存活的事实写回文本记忆。

每个推理步骤有四个阶段。首先,**请求生成**从原始问题和当前记忆产生一个聚焦的子查询\(q^{(t)}\)。其次,**双流检索/搜索**检索文本片段\(S^{(t)}\)和图三元组\(R^{(t)}\)。第三,**响应生成**产生一个中间答案或推理状态\(y^{(t)}\)。第四,**记忆同步**通过一个双向操作更新两种记忆:
\[
\bigl(\mathcal{T}^{(t+1)}, \mathcal{G}^{(t+1)}\bigr) \leftarrow \mathrm{Sync}\bigl(\mathcal{T}^{(t)}, \mathcal{G}^{(t)}, S^{(t)}, R^{(t)}, y^{(t)}\bigr)
\]
Co-E支持MCTS和CoT两种推理模式;两者使用相同的检索和同步机制,仅在如何选择下一个子查询上有所不同。

### 3.2 共享图-文本记忆

Co-E维护一个单一的共享记忆对象,而不是独立的每跳上下文。每一步都从当前记忆读取,并将验证后的证据写回同一记忆,因此早期证据可以影响后续检索和生成。

**文本记忆。** 文本记忆\(\mathcal{T}\)存储自包含、与问题相关的片段:提取的证据、中间子答案、验证器反馈以及从图三元组生成的自然语言陈述。原始文档从不进入记忆;一个提取器将每个检索到的文档过滤为原子片段。

**图记忆。** 图记忆\(\mathcal{G}\)是一个有向图,包含实体和关系。**知识图谱模式三元组**是规范化的,直接从知识库中检索。**开放词汇三元组**从文本记忆中提取,并使用自然语言关系标签。前者提供可靠的基于模式的结构,而后者让Co-E能表示文本中表达但知识图谱模式中缺失的关系。一个共享的实体词典将\(\mathcal{T}\)中的表面提及与\(\mathcal{G}\)中的知识图谱标识符关联起来,使得文本证据和图证据可以指向相同的实体。

在三元组合并到\(\mathcal{G}\)之前,一个三元组剪枝器会移除无关、冗余或矛盾的关系边。解析到相同知识图谱标识符的节点被合并,孤立的低价值节点被丢弃。因此,图记忆是主动维护的,而非单调累积的。

### 3.3 双向记忆同步

同步操作符是Co-E的核心机制。它通过四个操作使文本和图记忆共同演化。

**文本整合。** Co-E首先整合\(\mathcal{T}^{(t)}\)、新检索的片段\(S^{(t)}\)以及中间响应\(y^{(t)}\)。整合器对重叠片段去重,合并互补证据,并撤回矛盾的中间预测。这防止记忆变成一个不断增长的噪声上下文块。

**文本到图的传播。** 从整合后的文本记忆中,一个实体链接器识别实体,并尽可能将其映射到知识图谱标识符。一个关系提取器随后从文本中提出开放词汇三元组。这些三元组与知识图谱三元组\(R^{(t)}\)结合,经过相关性和一致性剪枝,然后合并到\(\mathcal{G}^{(t)}\)中。这一步让新发现的文本证据能够扩展关系边界。

**图到文本的传播。** Co-E将存活的图三元组文本化,并将它们作为明确的关系陈述附加到文本记忆。这使生成器能够直接以自然语言访问图约束,而不必从图结构中单独推断。

**文本重新整合。** 最后,在注入图派生陈述后,整合器对文本记忆运行第二次处理。结果是一个连贯的记忆状态\(\mathcal{M}^{(t+1)}\),其中文本证据和图证据已得到协调。这个更新后的记忆

相似文章