文本-图协同:用于 RAG 的双向验证与补全框架
摘要
本文介绍了 TGS-RAG,这是一个双向验证与补全框架,通过协同基于文本和基于图的检索增强生成(RAG),提高了多跳推理的准确性。
arXiv:2605.05643v1 公告类型:新论文
摘要:检索增强生成(RAG)已成为提升大语言模型(LLMs)事实依据性和多跳推理能力的核心范式。传统的基于文本的 RAG 往往检索出逻辑上不相关的伪证据,而基于图的 RAG 则常因搜索时的剪枝操作而受阻,这可能导致有效的推理路径被丢弃。现有的混合方法主要采用简单的证据拼接或单向增强,未能解决由非结构化文本与结构化图之间不对称推理流引起的根本性“信息孤岛”问题。我们提出了 **TGS-RAG**,一个用于 **T**ext-**G**raph **S**ynergistic(文本-图协同)增强的统一框架。TGS-RAG 引入了一种双向机制:(i) 一个 **图到文本** 通道,利用已访问图节点的全局投票策略对文本证据进行重排序和细化,以过滤语义噪声;以及 (ii) 一个 **文本到图** 通道,利用基于 **内存的孤立实体桥接** 算法。该算法利用文本线索,无需额外数据库开销,即可从搜索历史中主动恢复有效但此前被剪枝的推理路径。在多个多跳推理基准上的实验结果表明,TGS-RAG 显著优于最先进基线模型,在检索精度与计算效率之间实现了更优的平衡。
查看缓存全文
缓存时间: 2026/05/08 08:29
# RAG的双向验证与补全框架
来源: https://arxiv.org/html/2605.05643
Hong Cai Chen 东南大学自动化学院,中国南京 210096 220245143@seu\.edu\.cn, chenhc@seu\.edu\.cn 通讯作者。
###### 摘要
检索增强生成(RAG)已成为提升大型语言模型(LLMs)事实依据和多跳推理能力的核心范式。传统的基于文本的RAG往往检索到逻辑无关的伪证据,而基于图的RAG则常受限于搜索时的剪枝操作,这可能会丢弃潜在的合理推理路径。现有的混合方法主要采用简单的证据拼接或单向增强,无法解决由非结构化文本与结构化图之间的不对称推理流引起的“信息孤岛”根本问题。我们提出了TGS-RAG,一种用于文本-图协同增强的统一框架。TGS-RAG引入了双向机制:(i)一个图到文本通道,利用访问过的图节点的全局投票策略来重排序和细化文本证据,过滤语义噪声;以及(ii)一个文本到图通道,利用基于记忆的孤儿实体桥接算法。该算法利用文本线索主动从搜索历史中恢复有效但之前被剪枝的推理路径,且无需额外的数据库开销。在多个多跳推理基准上的实验结果表明,TGS-RAG显著优于当前最先进的基线方法,在检索精度和计算效率之间实现了更优的平衡。
参见图1图注:孤立检索范式与TGS-RAG框架的比较。(a)现有范式存在“信息孤岛”差距:基于文本的方法经常检索到语义相似但逻辑无关的伪证据,而基于图的方法因搜索时剪枝导致推理路径断裂而受阻。(b)TGS-RAG通过双向协同机制弥合了这一差距,其中图结构指导文本重排序以识别真实证据,而文本上下文促进对被剪枝但可能有效的推理路径的恢复。
## 1 引言
大型语言模型(LLMs)在自然语言理解和生成方面在各种任务中取得了显著的性能。然而,尽管拥有令人印象深刻的参数容量,LLMs仍然 fundamentally 受限于其对静态内部知识的依赖以及产生幻觉或逻辑不一致响应的倾向(Jiet al., 2023),特别是在知识密集型和多跳推理场景中。因此,检索增强生成(RAG)已成为将LLM输出 grounded 于外部可验证证据的核心范式,从而实现更事实化、可控且可解释的生成(Lewiset al., 2020)。
现有的RAG系统主要遵循两种不同的范式。基于文本的RAG使用稠密向量相似度从大型非结构化语料库中检索相关信息。虽然这种范式提供了高覆盖率,但它容易检索到伪证据(Cossio, 2025)——即与查询在语义上相似但逻辑上无关的文本块,并且在处理复杂的多跳推理时表现不佳。相比之下,基于图的RAG利用结构化的知识图谱(KGs)提供高逻辑可解释性。然而,这些系统通常受到KG中结构稀疏性以及可能丢弃潜在有用推理路径的搜索时剪枝的限制。
最近的研究试图结合基于文本的RAG和基于图的RAG,以利用它们的互补优势。然而,这些方法通常依赖于简单的证据拼接或流水线式增强,将文本证据和图形证据视为独立来源,未能实现深度集成。此外,单向增强框架(例如,KG-infused RAG)通常仅将一种模态作为另一种模态的辅助信号。此类设计未能建立闭环交互,使得相互验证和共同发现的深层潜力 largely unexplored。
这一局限性的核心在于信息孤岛问题:文本证据和图形证据被孤立地检索和处理,缺乏相互验证或协作推理的机制。具体而言,当前系统缺乏一个原则性框架,其中(i)编码在图中的结构化逻辑约束可以指导和细化文本检索,同时(ii)非结构化文本中丰富的上下文线索可以验证、丰富并恢复被剪枝但可能有用的图推理路径。在实践中,这通常意味着文本和图通道检索到的证据各自看起来相关,但无法相互支持形成连贯的推理链。
为了应对这些挑战,我们提出了文本-图协同RAG(TGS-RAG)111https://github.com/EvannZhongg/TGS_RAG.git,这是一个新颖的框架,能够在检索过程中实现非结构化文本和结构化知识图谱之间的深度双向集成。TGS-RAG引入了双向增强机制:一个*图到文本*通道,利用结构化逻辑对文本块进行重排序;以及一个*文本到图*通道,利用上下文线索验证和补全KG路径。我们的主要贡献如下:
- **双向协同框架**:我们提出了TGS-RAG,这是一个统一框架,通过建立闭环反馈机制打破了“信息孤岛”障碍:图结构指导文本证据的重排序(图到文本),而文本上下文验证和修复图推理路径(文本到图)。这种闭环设计使两个通道超越了简单的共存状态,相互验证彼此检索到的证据。
- **基于记忆的孤儿实体桥接**:我们引入了一种新颖的算法,通过将剪枝节点视为*延迟推理记忆*,解决了束搜索剪枝过程中潜在有用推理路径丢失的问题。通过利用文本线索“复活”这些孤儿实体,我们恢复了在初始搜索中丢弃的潜在有效推理路径。
- **成本效益双通道推理**:我们设计了一种协同评分机制,结合了语义相似度和结构投票。这种方法有效地过滤了伪证据,并实现了最优的帕累托前沿,以显著低于全局图索引方法的令牌消耗量达到了最先进的准确率。
- **实证优越性**:在MuSiQue和HotpotQA上的大量实验表明,TGS-RAG显著优于现有的基于文本、基于图和混合基线,特别是在需要跨离散证据进行复杂多跳推理的场景中。
参见图2图注:TGS-RAG的整体架构。该框架分三个阶段运行:(1)知识库构建,将文本块和实体映射到统一的向量数据库中;(2)双向协同检索,这是利用语义束搜索累积包含选中节点和剪枝节点的*访问记忆*的核心阶段。该记忆通过全局投票促进*图引导重排序*,并通过*复活*记忆中的剪枝孤儿实体来桥接逻辑缺口,从而实现*文本引导路径补全*;以及(3)生成,合成细化后的证据。
## 2 相关工作
RAG的演进已从简单的文本匹配转变为复杂的多模态和结构融合。我们的工作建立在三个主要研究领域之上。
### 2.1 用于RAG的非结构化检索
传统RAG系统主要依赖非结构化检索,其中稠密向量表示促进了查询和文档之间的语义匹配。稠密段落检索(DPR)Karpukhin等人(2020)开创了用于开放域问答的双编码器架构,显著提高了相对于词汇方法的召回率。随后的模型如ColBERTKhattab和Zaharia(2020)引入了晚期交互机制以捕捉细粒度的令牌级相似度。虽然这些模型在广泛的知识覆盖方面表现出色,但它们往往在多跳查询中表现不佳,因为语义相似性并不一定意味着逻辑相关性,导致检索到误导性的“伪证据”。
### 2.2 用于RAG的结构化检索
为了解决基于文本检索的逻辑局限性,最近的研究探索了知识图谱(KGs)作为结构化知识来源。该类别的方法通常提取子图或关系路径,为LLMs提供确定性证据。例如,G-RetrieverHe等人(2024)采用基于GNN的适配器来过滤无关的节点和边,旨在高效检索用于文本图理解的子图。同样,基于KG的推理框架如ToGSunet等人(2024)利用LLMs作为代理,在结构化事实之上执行路径搜索算法(例如,束搜索)。除了路径推理外,最近的基于图的索引方法利用LLM生成的结构来捕捉全局信息。GraphRAGEdge等人(2024)构建分层社区摘要以回答全局查询,但面临高昂的索引成本。相比之下,LightRAGGuo等人(2025)引入了一种双级检索范式,结合了图结构和向量表示。然而,这些以索引为重点的方法主要解决检索效率和覆盖率问题,但在处理搜索过程中丢弃潜在有用推理路径的场景时能力较弱。
### 2.3 文本-图集成范式
文本和图的集成已成为构建稳健RAG系统的一个有前景的方向。早期的方法通常采用单向增强策略。例如,KG-Infused RAG利用图实体扩展查询以进行文本检索,而像KG2RAGZhuet al.(2025)这样的框架采用“语义到图”范式,使用初始语义检索中的文本来扩展图组件。然而,这些方法通常面临“单向瓶颈”,即一种模态的优势不会主动实时反馈以纠正或补全另一种模态。
为了克服这些局限性,最近的框架转向跨源验证。Think-on-Graph 2.0(ToG-2)Maet al.(2025)引入了一种紧密耦合范式,迭代地在基于KG的图检索和基于文档的上下文检索之间交替,使用文本证据剪枝图路径,并使用图结构指导文本检索。虽然TGS-RAG在相互验证的高级目标上与ToG-2共享,但底层机制存在实质性差异。ToG-2遵循减法策略,通过昂贵的迭代检索反复剪枝并重新扩展搜索空间。相比之下,TGS-RAG通过基于记忆的孤儿实体桥接采用加法策略,将剪枝视为推迟而非消除,并从语义束搜索历史中直接复活被剪枝的路径。这种回顾性修复机制能够在不增加额外数据库查询的情况下,高效恢复在稀疏图连通性和搜索时剪枝下难以保留的逻辑链。
参见图3图注:基于记忆的孤儿实体桥接算法图示。该过程分为三个步骤:(1)访问记忆:语义束搜索生成一组*活动路径*($P_{initial}$,蓝色节点),同时在*访问记忆*($E_{visited}$,灰色区域)中隐式存储被剪枝的节点;(2)上下文召回:来自检索到的文本块($C_{initial}$)的上下文线索执行*上下文扫描*,以识别相关但被剪枝的“孤儿实体”;(3)路径复活:剪枝决策被逆转,连接复活实体与主子图的*复活路径*($p_{bridge}$,橙色)在没有额外数据库查询的情况下被恢复。
## 3 TGS-RAG框架
如图2所示,TGS-RAG被设计为一个两阶段框架,紧密集成非结构化文本和结构化知识图谱以进行检索增强推理。它包括一个离线*知识库构建*阶段,负责从不结构化文档中提取和融合知识;以及一个在线*双向协同检索*阶段,在推理过程中对文本和图证据执行相互验证和增强。
### 3.1 知识库构建
给定非结构化文档语料库$C$,TGS-RAG通过离线处理管道构建统一的知识库。我们利用大型语言模型(LLMs)提取显著实体$E$及其语义关系$R$(见附录A.1中的提取提示),形成全局知识图谱$G=(E,R)$。
关键在于,我们在文本语料库$C$和知识图谱$G$之间建立了*双向映射*M*。$G$中的每个关系三元组都明确链接到其来源文本块,而每个文本块都注释了它所包含的实体和关系。这种映射将知识图谱从独立的结构转变为文本之上的推理接口。形式上,知识库定义为一个三元组:
$KB=(C,G,M)$ (1)
其中$M$表示$C$和$G$之间的双向链接。这个统一且互联的知识库为所提出的双向增强检索框架奠定了基础。
### 3.2 双通道初始检索
给定用户查询$q$,TGS-RAG首先使用LLM提取一组与查询相关的实体提及。对这些实体进行嵌入以获得向量$v_E$,然后用于从知识图谱$G$中检索种子实体集$E_{seed}$。
从$E_{seed}$开始,TGS-RAG并行执行两个互补的检索过程:文本通道和图通道。这种双通道设计有意捕捉表现出不同失效模式的异构证据信号。
- **文本通道**:该通道执行标准语义检索,以快速召回与用户查询直接相关的文本证据。我们使用用户查询$q$的查询向量$v_q$对文本块集合$C$进行向量索引,检索出与$v_q$相似度最高的初始文本集$C_{initial}$。
- **图通道**:从种子实体集$E_{seed}$开始,语义束搜索算法(见附录B中的算法1)在每一跳计算邻近节点嵌入与查询向量$v_q$之间的余弦相似度。仅保留语义最相关的顶部$K$(束宽度)条路径用于下一步扩展。这种启发式剪枝确保检索集中在查询的语义邻域,在预设深度$d$内生成高质量的*路径集* $P_{initial}$。
这一阶段的成果是两个异构证据集:$C_{initial}$,强调语义相似文章
上下文感知与关系感知的图检索增强生成的统一框架
本文提出了HyGRAG,一种层次化图RAG框架,整合了上下文与关系信息以支持多跳推理,在现有方法基础上实现了平均准确率提升9.7%。
RAGA:用于自主知识图谱构建和检索增强生成的阅读与图谱构建智能体
RAGA 是一个由大语言模型驱动的自主智能体,通过“阅读-搜索-验证-构建”的认知循环构建知识图谱,并集成混合符号-向量检索以实现检索增强生成,在科学问答数据集上取得了实验性改进。
为什么检索增强生成会失败:图视角
本文探讨了检索增强生成(RAG)系统即使在获取到正确证据的情况下仍然失败的原因。通过电路追踪和归因图,作者发现正确的预测展现出更深的推理路径和更分散的证据流,而失败则表现为浅层、碎片化的模式。他们提出了一个基于图的错误检测框架和有针对性的干预措施,以提高RAG的可靠性。
GRACE-RAG:规范证据合成的受控检索架构,支持在封闭领域机构环境中轻量化部署
本文介绍了 GRACE-RAG,这是一种检索受控、图增强的 RAG 架构,它将结构推理从生成过程外化到结构化的检索层,从而能够在封闭领域的机构环境中实现轻量化部署。实验表明,在中规模模型上质量提升高达 20%,同时减少了计算和延迟开销。
CMT-RAG: 多轮多跳RAG的互补记忆轨迹
介绍CMT-RAG,一种用于多轮多跳对话式RAG的互补记忆框架,通过子问题级推理轨迹将对话记忆与检索对齐。同时提出了MuMu-QA,一个具有跨轮子问题依赖关系的基准测试。