上下文感知与关系感知的图检索增强生成的统一框架
摘要
本文提出了HyGRAG,一种层次化图RAG框架,整合了上下文与关系信息以支持多跳推理,在现有方法基础上实现了平均准确率提升9.7%。
arXiv:2606.18075v1 Announce Type: new
摘要:检索增强生成(RAG)已成为一种利用外部知识增强大语言模型(LLM)的范式,然而现有的基于图的方法面临一个根本性局限:以实体为中心和以块为中心的方法所处理的表示都锚定于原始文本,缺乏真正的知识融合。实体为中心的方法连接逻辑相关的内容,而以块为中心的方法保留上下文,但两者都通过相似性搜索单独检索信息,无法从其综合中获得突现理解。在本文中,我们提出了HyGRAG,一种层次化图RAG框架,它通过解决三个核心挑战超越了源文档:构建真正整合上下文与关系信息的摘要,在检索中利用这些综合表示访问突现知识,以及高效更新动态语料库的层次结构。具体而言,我们设计了混合图上的层次索引结构,同时包含块节点和实体节点,然后迭代聚类并生成基于LLM的摘要。接着,我们设计了上下文与关系感知的检索,可在所有抽象层次上搜索,同时通过社区成员关系进行扩展。此外,我们通过基于附加的算法实现动态知识更新,仅需局部重新摘要。实验结果表明,HyGRAG在多跳推理任务上的平均准确率提升了9.7%,同时保持了合理的效率。
查看缓存全文
缓存时间: 2026/06/17 05:41
# 面向上下文感知与关系感知的图检索增强生成统一框架
来源:https://arxiv.org/html/2606.18075 (2026)
###### 摘要。检索增强生成(RAG)已成为一种通过外部知识增强大语言模型(LLM)的范式,然而现有基于图的方法面临根本性局限:以实体为中心和以块为中心的方法都基于锚定于原始文本的表示进行运作,缺乏真正的知识融合。以实体为中心的方法能够连接逻辑相关的内容,而以块为中心的方法能保留上下文,但两者都通过相似性搜索独立检索信息,无法从它们的综合理解中获得涌现性知识。本文提出HyGRAG,一种超越源文档的层次化图RAG框架,通过解决三个核心挑战:构建真正整合上下文信息和关系信息的摘要、在检索中利用这些综合表示来获取涌现知识,以及高效更新面向动态语料库的层次化结构。具体而言,我们首先在包含文本块节点和实体节点的混合图上设计层次化索引结构,然后迭代聚类并生成基于LLM的摘要。接着,我们设计上下文与关系感知的检索机制,跨所有抽象层级进行搜索,同时通过社区成员关系进行扩展。此外,我们通过基于附加的算法实现动态知识更新,仅需局部重新摘要。实验结果表明,HyGRAG在多跳推理任务上的平均准确率提高了9.7%,同时保持了合理的效率。¹¹我们的代码可在 https://github.com/zjunet/HyGRAG 获取。
图RAG;上下文感知;关系感知。††journalyear:2026††copyright:cc††conference:Proceedings of the ACM Web Conference 2026; April 13–17, 2026; Dubai, United Arab Emirates††booktitle:Proceedings of the ACM Web Conference 2026 (WWW ’26), April 13–17, 2026, Dubai, United Arab Emirates††doi:10.1145/3774904.3792720††isbn:979-8-4007-2307-0/2026/04††ccs:Networks Online social networks††ccs:Computing methodologies Knowledge representation and reasoning
## 1. 引言
参见图1。图1:使用Qwen3-8B在关系感知(MuSiQue)和上下文感知(MultiHop-RAG)数据集上的方法性能说明,包括代表性案例。
RAG系统已被开发用于通过整合外部知识源来增强LLM(Gao等人,2024 (https://arxiv.org/html/2606.18075#bib.bib122);Lewis等人,2021 (https://arxiv.org/html/2606.18075#bib.bib128))。这种整合使LLM能够访问最新信息和特定领域知识,从而解决参数化记忆的内在局限性(Fan等人,2024 (https://arxiv.org/html/2606.18075#bib.bib123))。RAG的最新进展已超越简单的文档检索,开始融入显式建模概念、实体和文档之间关系的图结构(Hu等人,2025 (https://arxiv.org/html/2606.18075#bib.bib125);Xiang等人,2025 (https://arxiv.org/html/2606.18075#bib.bib126))。这些图RAG系统利用知识图谱中丰富的结构信息来提高检索准确性和推理能力,使其对于需要理解互联信息的复杂查询特别有效(Ma等人,2025 (https://arxiv.org/html/2606.18075#bib.bib127);Gutiérrez等人,2025 (https://arxiv.org/html/2606.18075#bib.bib106))。
当前的图RAG方法探索了两种不同的方向来利用图结构进行检索增强。以实体为中心的方法,如GraphRAG(Edge等人,2025 (https://arxiv.org/html/2606.18075#bib.bib105))、HippoRAG(Gutiérrez等人,2025 (https://arxiv.org/html/2606.18075#bib.bib106))和HiRAG(Huang等人,2025a (https://arxiv.org/html/2606.18075#bib.bib108)),构建知识图谱,其中节点代表从文本中提取的实体,边编码它们的语义关系。这些方法通过沿关系路径进行遍历,在多跳推理方面表现出色——例如,通过从GPT-3到OpenAI再到Microsoft的边,回答“哪家公司收购了GPT-3的开发者?”。相比之下,以块为中心的方法,如RAPTOR(Sarthi等人,2024 (https://arxiv.org/html/2606.18075#bib.bib103))和EraRAG(Zhang等人,2025a (https://arxiv.org/html/2606.18075#bib.bib104)),基于语义相似性将文本块组织成层次结构。它们创建树状索引,叶节点包含原始文本块,父节点存储越来越抽象的摘要。这种设计在保留完整上下文信息的同时,支持在不同粒度级别进行检索。
然而,两种方法都表现出根本性局限,限制了其有效性。以实体为中心的方法在实体提取过程中遭受信息损失。命名实体识别和关系抽取模型引入的错误会在整个系统中累积,而从文本到实体的抽象丢弃了事实问答所需的有价值的上下文信息。我们的分析表明,这些方法在事实性QA基准测试上通常表现不如简单的密集检索。以块为中心的方法则面临相反的问题:虽然它们在事实性查询上保持高准确率,但无法捕获分散在不同块中实体之间的显式关系。这使得它们对于需要逻辑推理的查询(例如,找出受特定供应链中断影响的所有产品)无效。根本问题是现有方法要么优化上下文完整性,要么优化关系结构,但现实世界中的查询往往两者都需要。
我们的关键洞见是,仅仅在混合图中组合块表示和实体表示并不能解决根本问题:两种表示仍然锚定于其原始文本源,缺乏真正的知识融合。虽然知识图谱能够连接文本上相距较远但逻辑相关的内容,但它们无法将关系中的逻辑信息与块中的背景上下文整合起来。在检索时,这两个方面仍然通过相似性搜索独立访问,错失了协同理解的机会。考虑一个关于“可再生能源采用对制造业的影响”的查询——基于实体的检索可能找到太阳能电池板与工厂之间的关系,而基于块的检索可能返回关于能源成本的文档,但两者都无法捕获通过综合这些视角而产生的涌现性理解。这激发了我们的方法:我们将实体和块一起聚类,并生成同时编码关系逻辑和上下文背景的摘要,从而创建超越原始文本的新知识表示。
实现这种知识融合方法面临三个核心技术挑战。首先,如何构建真正整合上下文和关系(而非简单拼接)的摘要。其次,如何在检索过程中利用这些混合摘要来访问超出原始语料库的知识。这些摘要代表不存在于任何单一源文档中的涌现性理解——检索机制必须能够将查询匹配到这些综合洞察,同时仍提供对支持细节的访问。第三,当语料库变化时,如何高效更新如此复杂的层次结构。现实世界的知识库会持续更新,但为每个新文档重建整个层次结构在计算上是不可行的。
为了应对这些挑战,我们提出HyGRAG,一个具有三个关键创新的统一框架。对于摘要构建,我们设计了一个两阶段方法:首先使用图结构感知的嵌入(捕获文本相似性和关系连接性)对节点进行聚类,然后以结构化模板提示LLM,明确要求在每个社区内综合上下文信息和关系信息。这产生了代表真正知识融合(而非简单聚合)的摘要。对于检索,我们实现了一种双层机制,跨上下文和关系维度同时运行。上下文感知的检索搜索所有层级——从特定块到抽象社区摘要——从而能够访问涌现性知识。然后,关系感知的检索通过从检索到的社区中收集实体并过滤其关联三元组来扩展结果,确保逻辑完整性。对于动态更新,我们开发了一种基于附加的算法,新内容被匹配到适当抽象级别上最相似的社区,局部重新摘要仅沿受影响路径传播。这保留了无关部分的稳定性,同时融入了新知识。
实验结果表明,HyGRAG在多跳推理任务上的平均准确率提高了9.7%,同时保持了合理的效率。总结而言,我们做出了三项贡献:
- • 我们提出了面向图RAG的层次化索引,通过多级抽象统一了上下文信息和关系信息,支持在不同粒度级别进行检索。
- • 我们开发了一种结合上下文感知和关系感知策略的检索机制,利用社区结构来发现平面方法遗漏的信息。
- • 我们在一系列任务上取得了显著的性能提升,包括事实准确性提高6.2%,多跳推理提高9.7%,在HotpotQA数据集上的提升高达12.2%。
## 2. 相关工作
### 2.1. 图RAG
RAG(Gao等人,2024 (https://arxiv.org/html/2606.18075#bib.bib122))通过在生成过程中整合外部知识来缓解LLM中的幻觉(Huang等人,2025b (https://arxiv.org/html/2606.18075#bib.bib121))。RAG涉及两个耦合步骤:检索和生成。给定一个查询,系统从预处理的外部语料库中检索出Top-k相关的文本块。然后,LLM在检索到的块和查询的条件下生成答案,从而产生更符合事实和上下文适当的响应。
原始RAG(Lewis等人,2020 (https://arxiv.org/html/2606.18075#bib.bib102))改进了事实依据,但将语料库视为非结构化文本,限制了文档间的推理和多跳推断。为了克服这一点,最近的工作将图结构融入检索中(Peng等人,2024 (https://arxiv.org/html/2606.18075#bib.bib124)),从而催生了图RAG方法。这些方法可分为上下文感知(聚焦文本块)和关系感知(显式利用图结构)两类。
上下文感知方法通过检索分段的文本块作为上下文来增强生成。原始RAG基于嵌入相似性检索Top-k块。先进的方法对块进行聚类和摘要以捕获高阶信息。RAPTOR(Sarthi等人,2024 (https://arxiv.org/html/2606.18075#bib.bib103))递归地将块聚类成层次化摘要,而EraRAG(Zhang等人,2025a (https://arxiv.org/html/2606.18075#bib.bib104))使用LSH将语料库组织成多层摘要,处理动态语料库中的高阶信息。
关系感知方法构建文本知识图谱以编码结构化关系。LightRAG(Guo等人,2025 (https://arxiv.org/html/2606.18075#bib.bib109))将图结构融入文本索引,并通过高/低层级关键词进行检索。GraphRAG(Edge等人,2025 (https://arxiv.org/html/2606.18075#bib.bib105))对社区进行聚类并生成摘要以提供整体上下文。HiRAG(Huang等人,2025a (https://arxiv.org/html/2606.18075#bib.bib108))和ArchRAG(Wang等人,2025 (https://arxiv.org/html/2606.18075#bib.bib110))进一步利用层次化图,通过应用属性实体来桥接局部实体细节和全局洞察。HippoRAG(Gutiérrez等人,2025 (https://arxiv.org/html/2606.18075#bib.bib106))和HippoRAG 2(gutiérrez2025ragmemorynonparametriccontinual)通过个性化PageRank导航图连通性来增强多跳推理,提升了复杂QA任务上的性能。
### 2.2. 动态检索
大多数图RAG系统假设静态语料库,使得更新代价高昂。LightRAG(Guo等人,2025 (https://arxiv.org/html/2606.18075#bib.bib109))使用模块化检索器动态添加新文档。HippoRAG(Gutiérrez等人,2025 (https://arxiv.org/html/2606.18075#bib.bib106))也支持增量更新,因为它仅利用KG进行检索。EraRAG(Zhang等人,2025a (https://arxiv.org/html/2606.18075#bib.bib104))引入了基于LSH的聚类,通过对受影响部分进行重新分段和重新摘要来实现局部更新。然而,基于实体的社区聚类方法仍然需要完全重建。
参见图2。图2:HyGRAG的整体架构。
## 3. 方法概述
我们提出的框架HyGRAG通过统一架构解决了上下文感知检索与关系感知检索之间的根本权衡。该系统由四个关键组件构成:(1) 层次化索引结构构建:构建包含混合图的层次化索引结构,同时捕获基于块的上下文信息和基于实体的关系信息;(2) 上下文与关系感知检索:执行跨越微宏观粒度的检索;(3) 检索增强高效生成:集成层次化上下文;(4) 动态知识更新:支持无需完全重建的增量知识整合。
### 3.1. 层次化索引结构构建
该模块完全在离线阶段运行,确保不影响在线检索效率。我们从原始文本构建混合知识图谱,同时捕获基于块的上下文信息和基于实体的关系结构。
文本分块与块级图构建。给定语料库D,我们首先将其分割为重叠的文本块C={c1,c2,...,cn}。每个块ci保留了原始文本的上下文信息,使推理LLM能更好地理解其语义内容。对于每个块,我们计算其嵌入表示:(1) eic=LMEmbedding(ci),其中我们使用BGE-M3作为嵌入模型将文本块编码为密集向量表示。基于嵌入相似性,我们构建基于块的图Gc=(Vc,Ec),其中Vc=C。我们基于共享实体(而非浅层嵌入相似性)在块之间创建边。具体而言,如果两个块ci和cj共享多于l个共同实体,我们创建边(ci,cj)∈Ec:(2) (ci,cj)∈Ec⇔|Ei∩Ej|>l,其中Ei和Ej分别是从块ci和cj中提取的实体集合,在我们的实现中l设为3。这种方法通过共享实体在块之间建立有意义的连接,提供了比表面嵌入相似性更强的语义关系。
实体级图构建。然后我们使用LLM从原始文本中提取知识图谱三元组。具体而言,对于每个文本块ci,我们相似文章
ContextRAG:面向检索增强生成的无抽取层次图构建
ContextRAG引入了一种无抽取方法,用于构建面向检索增强生成的层次图索引。该方法利用残差量化K均值(Residual-Quantization K-Means)和形式概念分析(Formal Concept Analysis),将大语言模型(LLM)调用和Token数量减少数个数量级,同时在多跳问题上保持具有竞争力的F1分数。
HyCE-RAG: 基于超图证据链的检索增强生成用于可解释的多跳问答
HyCE-RAG 是一种新颖的基于超图的检索增强生成框架,专为多跳问答设计,通过置信度感知的启发式搜索构建显式证据链,在准确性、相关性和忠实度方面优于标准 RAG 和基于图的 RAG 方法。
LightRAG:简单高效的检索增强生成框架
本文介绍了 LightRAG,这是一个开源框架,通过整合图结构来提升检索增强生成(RAG)的上下文感知能力与信息检索效率。
文本-图协同:用于 RAG 的双向验证与补全框架
本文介绍了 TGS-RAG,这是一个双向验证与补全框架,通过协同基于文本和基于图的检索增强生成(RAG),提高了多跳推理的准确性。
FAIR GraphRAG:一种用于语义数据分析的检索增强生成方法
一种名为FAIR GraphRAG的新型框架将FAIR数字对象与基于图的检索相结合,以增强面向语义数据分析的检索增强生成,提高了问答准确性并遵循FAIR原则,在生物医学数据集上进行了演示。