优化基于超图的RAG:迈向更好的事实提取与分块检索
摘要
本文提出对HyperGraphRAG的改进,通过使用自一致性提示来提升事实提取效果,并利用个性化PageRank算法增强分块检索。
arXiv:2607.20506v1 公告类型:新
摘要:GraphRAG通过将知识结构化为图来实现更深层次的推理,但在处理多元关系事实时存在困难。HyperGraphRAG使用超图来获得更丰富的语义,提高了准确率,然而它依赖于容易出错的大语言模型提取和低效的标准分块检索。我们通过采用自一致性提示来改进提取过程,并利用超图上的个性化PageRank算法来增强分块检索,从而解决这一问题。
查看缓存全文
缓存时间: 2026/07/24 05:03
# 优化基于超图的检索增强生成:迈向更优的事实提取与分块检索
来源:https://arxiv.org/html/2607.20506
\\NoAutoSpaceBeforeFDP
Pedro Fillastre·Sebastiao Correia·应用研究·Qlik
\{houda\.khrouf, pedro\.fillastre, sebastiao\.correia\}@qlik\.com
###### 摘要
GraphRAG 通过将知识结构化为图来实现更深层的推理,但在处理 n 元事实时存在困难。HyperGraphRAG 利用超图提供更丰富的语义,提高了准确性,然而其依赖易出错的大语言模型提取和低效的标准分块检索。我们通过采用自一致性提示来改进提取过程,并利用基于超图的个性化 PageRank 算法来增强分块检索,从而解决了这些问题。
关键词:GraphRAG, 超图, n 元关系, 个性化 PageRank
## 1 引言
通过检索增强生成将外部知识集成到大语言模型中,已成为提高事实准确性和减少幻觉的关键策略[12 (https://arxiv.org/html/2607.20506#bib.bib16)]。基于文本片段(块)向量相似性搜索的标准 RAG 系统,偏向于浅层语义相似性,而牺牲了复杂的实体间关系。虽然对于针对性的事实查询有效,但它们缺乏解决需要跨文档理解的问题所需的上下文深度。
参考图注 图1:二元知识图谱与知识超图在回答多跳问题时的对比
为了解决这些不足,GraphRAG[22 (https://arxiv.org/html/2607.20506#bib.bib8),7 (https://arxiv.org/html/2607.20506#bib.bib7),2 (https://arxiv.org/html/2607.20506#bib.bib5)] 作为一种战略演进出现,将数据结构化为知识图谱。通过对节点间的依赖关系进行建模,GraphRAG 实现了更细粒度的上下文理解和通过关系路径的有效导航。这种结构不仅有助于多跳推理和实体消歧,还能处理标准 RAG 系统难以应对的复杂全局查询(例如,“主要主题是什么?”)。然而,尽管经典知识图谱能够捕获二元关系,但在面对现实世界数据固有的复杂性时,它们达到了极限。许多关系本质上是 n 元的,同时涉及多个实体(例如,三家公司的合作,或者将多个参与者与特定地点联系起来的事件)。将这种关系分解为简单的二元边不可避免地会导致语义和结构信息的丢失。为了克服这种损失,基于知识超图的方法[14 (https://arxiv.org/html/2607.20506#bib.bib1),21 (https://arxiv.org/html/2607.20506#bib.bib9),6 (https://arxiv.org/html/2607.20506#bib.bib3)] 已被提出。与二元图不同,超图使用超边来表示同时连接多个节点的事实,因此提供了更优的表达能力和对数据完整性的忠实保留。如图1 (https://arxiv.org/html/2607.20506#S1.F1) 所示,描述“2007年,空客A380的首次商业航班连接了新加坡和悉尼”的关系连接了四个实体。在二元图中,这种关系被分割成独立的链接,使得无法将其与共享某些属性(出发地、目的地、日期)的、由不同飞机(如波音747)运营的其他航班区分开来。
然而,尽管具有更优的表达能力,基于超图的方法存在两个主要局限:
- ∙\\bullet 超图构建的复杂性:虽然基于超边的表示比二元图(后者通常对语言复杂性如动词时态、否定等敏感[19 (https://arxiv.org/html/2607.20506#bib.bib17)])能更好地保持事实完整性,但其基于大语言模型的提取仍然存在结构性不稳定:实体遗漏或孤立的超边,以及阻碍数据连续性的指代消解不足。这些缺陷破坏了图拓扑结构,限制了模型在知识间导航的能力,直接影响多跳推理。
- ∙\\bullet 结构连接性的未充分利用:HyperGraphRAG[14 (https://arxiv.org/html/2607.20506#bib.bib1)] 中采用的检索策略依赖于语义搜索结合局部一跳邻域扩展。这种机制未能充分利用超图的全局拓扑,并存在视界问题:根据查询的语义范围,它无法捕获直接邻域之外的结构化连接片段。这种方法忽略了具有重要结构依赖性的片段。它错过了根据片段与相关实体的连接度对其进行优先级排序的机会,限制了多跳推理。
为了解决这些局限性,我们提出了两项贡献。首先,一种基于**自一致性提示**的优化提取方法(EXT++),在不增加额外提取成本的情况下提高了超图的完整性和连通性。其次,一种基于在超图上运行的**个性化 PageRank**(PPR)的检索机制,受 HippoRAG2[8 (https://arxiv.org/html/2607.20506#bib.bib6)] 启发,它通过结构连接性而非简单的向量相似性来识别最相关的块。源代码和评估数据已公开发布于 https://github.com/qlik-oss/HyperGraphRAG/ 以确保可重复性。
## 2 相关工作
RAG 架构构建在一个模块化流水线上,该流水线围绕三个连续的阶段组织:预检索、检索和生成。初始的预检索阶段通过文本分割和粒度选择(从句级到文档级)定义源数据的表示和结构,有时结合知识图谱建模以优化语义上下文。文本分割对于克服语言模型的令牌限制,同时提高 RAG 系统的精度和效率至关重要。初始策略(如固定大小或递归分块)易于实现,但可能损害语义连贯性。这使得系统在回答全局性问题时效率低下,并加剧了复杂关系上的幻觉。为了解决这个问题,上下文分块[1 (https://arxiv.org/html/2607.20506#bib.bib2)] 用其在文档中全局上下文的摘要来丰富每个块,从而限制了索引过程中的信息丢失并改善了相关块的检索。其他基于知识图谱的方法通过语义关系互连实体,从平面的文本相似性搜索转向对数据的深度结构和关系理解,从而超越了分块的限制。作为这一演进的核心,微软的 GraphRAG[4 (https://arxiv.org/html/2607.20506#bib.bib4)] 将语料库结构化为知识图谱,并利用社区检测生成层次化摘要,便于处理全局查询。其他近期工作则致力于提高知识表示的丰富度和基于图的推理质量。LightRAG[7 (https://arxiv.org/html/2607.20506#bib.bib7)] 依赖增量索引和两级检索:专注于相关实体和关系的细粒度搜索,结合更高层次的主题搜索。HippoRAG2[8 (https://arxiv.org/html/2607.20506#bib.bib6)] 提出了一种受人类联想记忆和海马体启发的架构,利用个性化 PageRank 通过图拓扑来识别相关块。PathRAG[2 (https://arxiv.org/html/2607.20506#bib.bib5)] 通过推理路径剪枝来优化检索,选择信息量最大的子图,同时限制向模型提供的上下文中引入噪声。
这些系统的演进导致了用于数据建模的图类型多样化。值得注意的类型包括:(i) 经典知识图谱,提取实体间的二元关系[8 (https://arxiv.org/html/2607.20506#bib.bib6),22 (https://arxiv.org/html/2607.20506#bib.bib8)],有时辅以分类或本体层以改善语义结构和消歧[13 (https://arxiv.org/html/2607.20506#bib.bib10)];(ii) 文本图(或属性图),其中每个节点对应一个文本片段,并带有元数据,通过神经(GNN)或结构机制实现多跳检索[9 (https://arxiv.org/html/2607.20506#bib.bib12),10 (https://arxiv.org/html/2607.20506#bib.bib13)];以及 (iii) 二分图(段落-实体),显式建模共现关系以提供紧凑索引来引导上下文搜索[11 (https://arxiv.org/html/2607.20506#bib.bib14)]。由于这些表示仍然局限于二元关系,近期研究已转向使用超图来建模引言中讨论的高阶交互。在这方面,HyperGraphRAG[14 (https://arxiv.org/html/2607.20506#bib.bib1)] 通过利用超边表示复杂事实,奠定了这一范式的基础。该方法通过更忠实地捕获实体共现,超越了经典图,从而提供了更优的结构表达能力。与此同时,Hyper-RAG[6 (https://arxiv.org/html/2607.20506#bib.bib3)] 提出了一种混合架构。通过联合提取二元和 n 元关系并结合向量索引,它在检索和生成阶段为 LLM 提供了前所未有的密集事实上下文,极大地降低了幻觉风险。更近期,PRoH[21 (https://arxiv.org/html/2607.20506#bib.bib9)] 通过专注于自适应推理规划迈出了进一步的一步。该系统将查询分解为子问题的有向无环图,并迭代地导航超图的局部邻域。尽管生成质量得到了显著改善,但这个迭代过程对系统延迟的影响仍然是其评估中的一个盲点。这些工作在大规模提取的可靠性以及检索期间利用超图全局拓扑方面留下了开放性问题。
## 3 方法论
所提出的方法论围绕两个互补的轴组织,旨在提高超图构建的可靠性并优化相关块的检索。
### 3.1 优化提取(EXT++)
基于大语言模型的知识图谱提取正日益转向开放信息提取(OpenIE)范式。摆脱先验本体,利用大语言模型直接从文档语料库中动态发现和提取潜在实体与关系(自底向上发现)。然而,由于大语言模型架构从根本上针对顺序令牌生成而非结构化信息提取进行了优化,这种生成性质带来了重大挑战。除了语义泛滥之外,提取过程还遇到了自然语言的流畅性与三元组格式的严格性之间的粒度差距。它主要遭受结构性失败,例如处理复杂动作动词时的不完整性,或由于指代消解不完善导致的图碎片化。此外,还有模型的认知偏差,特别是语义漂移:通过过度简化关系,系统将细微差别(不确定性、假设、时间方面)转变为既定事实。这种无法建模否定或怀疑的能力会产生事实性“噪声”,降低了图的保真度[19 (https://arxiv.org/html/2607.20506#bib.bib17)]。基于超图的提取通过保持事实的语义完整性,从本质上减轻了这些认知失败。然而,它仍然容易受到结构性不稳定的影响:实体遗漏,产生孤立的超边,有时缺乏真正的语义含义(例如,“我是谁?”类型的残留片段)。
尽管在图提取任务上进行微调是一个有前途的方向[19 (https://arxiv.org/html/2607.20506#bib.bib17)],但其应用仍然取决于标注语料库的可用性,而目前超图领域缺乏这样的语料库。因此,我们将方法转向通过高级提示工程进行优化。我们提出对 HyperGraphRAG 的少样本提取[14 (https://arxiv.org/html/2607.20506#bib.bib1)] 进行扩展,通过集成一种自一致性机制:**自一致性提示**。该机制受通用自一致性(USC)范式[3 (https://arxiv.org/html/2607.20506#bib.bib18)] 启发,这是一种使大语言模型无需外部评估器即可评估和聚合多个生成路径以产生稳健共识的方法。这种集成提供了三个根本优势。首先,它减少了幻觉和语义漂移[18 (https://arxiv.org/html/2607.20506#bib.bib19)]:通过依赖多次提取的收敛而非单个贪婪解码,错误的或推测性的关系被统计过滤。其次,它减轻了大语言模型固有的方差及其对长上下文位置偏差的敏感性,这是一个经常导致周边实体被遗漏的问题。最后,不同迭代间基于并集的聚合最大化超图的完整性。
具体而言,我们的 EXT++ 方法依赖于附录A (https://arxiv.org/html/2607.20506#A1) 中呈现的提示。对于给定的块,该提示在单次大语言模型调用中执行三次提取迭代,在内部通过并集进行合并,以确保最终拓扑更密集且更连通。除了这种聚合之外,EXT++ 还重新思考了提示内的指令结构:模型被明确约束,在每个超边定义之后立即列出相关实体,遵循它们在源文本中出现的顺序。此外,在提取过程中应用了指代消解指令(例如,用完整的命名实体替换代词)。这种针对性的提取工程能够实现:(1) 改进提取信息的可追溯性,(2) 防止实体遗漏,(3) 促进超边与其实体之间的明确拓扑关联,以及 (4) 最小化与代词歧义相关的错误。
### 3.2 通过超图上的个性化 PageRank(PPR)优化检索
在 HyperGraphRAG 方法[14 (https://arxiv.org/html/2607.20506#bib.bib1)] 中,检索依赖于对实体和超边的语义搜索,随后是双向一跳拓扑扩展,并辅以来自标准向量搜索的块。正如引言中所讨论的,这一策略未能充分利用全局图拓扑,并且密集向量搜索往往会引入上下文噪声——与实际需求冗余或结构上无关的段落——这会稀释有用信号并增加模型对幻觉的脆弱性。
为了解决这些局限性,我们直接将块作为节点集成到超图中,将它们明确链接到从中派生的实体和超边。在这个统一结构上,我们应用个性化 PageRank(PPR)算法,受 HippoRAG2[8 (https://arxiv.org/html/2607.20506#bib.bib6)] 启发,将实体、超边和块视为三分图的节点。目标是识别在语义上相关且在拓扑上与查询内容高度连接的块。PPR 充当一个强大的过滤器,对抗密集搜索产生的假阳性,使得在响应生成之前能够优化提取的子图质量。
参考图注 图2:检索流程相似文章
ContextRAG:面向检索增强生成的无抽取层次图构建
ContextRAG引入了一种无抽取方法,用于构建面向检索增强生成的层次图索引。该方法利用残差量化K均值(Residual-Quantization K-Means)和形式概念分析(Formal Concept Analysis),将大语言模型(LLM)调用和Token数量减少数个数量级,同时在多跳问题上保持具有竞争力的F1分数。
上下文感知与关系感知的图检索增强生成的统一框架
本文提出了HyGRAG,一种层次化图RAG框架,整合了上下文与关系信息以支持多跳推理,在现有方法基础上实现了平均准确率提升9.7%。
Adaptive Chunking:为RAG优化分块方法选择
介绍Adaptive Chunking,一个利用五项文档内在指标为RAG选择最佳分块策略的框架,将答案正确率从62-64%提升至72%,并将问题解决率提高超过30%。
ScalableRAG:零摄入成本的高质量RAG
本文介绍了ScalableRAG,一种检索增强生成方法,通过基于正则表达式的集合创建和聚合推理,在无需任何摄入成本(无需向量数据库或知识图谱)的情况下实现高准确率。它在多个数据集上优于基线方法,并提出了一个有限摄入变体以进一步提升准确率。
HyCE-RAG: 基于超图证据链的检索增强生成用于可解释的多跳问答
HyCE-RAG 是一种新颖的基于超图的检索增强生成框架,专为多跳问答设计,通过置信度感知的启发式搜索构建显式证据链,在准确性、相关性和忠实度方面优于标准 RAG 和基于图的 RAG 方法。