HyCE-RAG: 基于超图证据链的检索增强生成用于可解释的多跳问答
摘要
HyCE-RAG 是一种新颖的基于超图的检索增强生成框架,专为多跳问答设计,通过置信度感知的启发式搜索构建显式证据链,在准确性、相关性和忠实度方面优于标准 RAG 和基于图的 RAG 方法。
arXiv:2607.22597v1 公告类型: 新
摘要:多跳问答要求系统从多个文档中检索证据,并将分散的事实连接成连贯的推理过程。标准检索增强生成(RAG)主要依赖查询与文本块之间的语义相似性,因此常常无法建模实体、事实和证据单元之间的结构关系。基于图的 RAG 通过引入图结构知识改进了这一点,但成对边在表示涉及多个实体和上下文的高阶关联方面仍然有限。我们提出 HyCE-RAG,一种基于超图证据链的检索增强生成框架,用于可解释的多跳问答。HyCE-RAG 将实体、关系和上下文证据组织成超边,构建查询感知的证据超图,并在实体-超边关联结构上进行置信度传播。然后,它使用置信度引导的证据组装在答案生成之前选择、连接和排序证据路径。评分过程联合考虑语义相关性、实体连通性、证据覆盖度、关系可靠性、提取置信度和传播置信度。通过向语言模型提供结构化的证据链,而非扁平化的检索段落,HyCE-RAG 支持更忠实和可解释的推理。在 HotpotQA、2WikiMultihopQA、MuSiQue 以及两个 GraphRAG-Bench 子集上的实验表明,HyCE-RAG 在答案准确性、上下文相关性和忠实度方面始终优于标准 RAG 和基于图的 RAG 基线。这些结果表明,基于超图的证据组织是复杂问答中后检索推理的一个有前景的方向。
查看缓存全文
缓存时间: 2026/07/28 06:25
# HyCE-RAG:面向可解释多跳问答的超图证据链检索增强生成 来源:https://arxiv.org/html/2607.22597 \\cortext \[cor1\]通讯作者。 张运健\[zhangyunjian@kaihong\.com\]\(mailto:zhangyunjian@kaihong\.com\)梁晨玮\[z5537371@ad\.unsw\.edu\.au\]\(mailto:z5537371@ad\.unsw\.edu\.au\)张天翼\[tianyizhang0213@zju\.edu\.cn\]\(mailto:tianyizhang0213@zju\.edu\.cn\)丁健\[dj19@tsinghua\.org\.cn\]\(mailto:dj19@tsinghua\.org\.cn\)吴逸伦\[wuyilun@kaihong\.com\]\(mailto:wuyilun@kaihong\.com\)李奥博\[Liaobo@kaihong\.com\]\(mailto:Liaobo@kaihong\.com\)苏伟聪\[suweicong@kaihong\.com\]\(mailto:suweicong@kaihong\.com\)Saifullah\[saifullah@kaihong\.com\]\(mailto:saifullah@kaihong\.com\)王穆江山\[mjs\.wang@siat\.ac\.cn\]\(mailto:mjs\.wang@siat\.ac\.cn\)澳门大学智慧城市物联网国家重点实验室\(SKL\-IoTSC\),澳门深圳开鸿数字产业发展有限公司,深圳518000,中国新南威尔士大学理学院数学与统计学院,悉尼,新南威尔士州2052,澳大利亚浙江大学计算机科学与技术学院,浙大路38号,杭州310027,中国中国科学院深圳先进技术研究院,深圳518055,中国 ###### 摘要 多跳问答要求模型从多个文档中检索相关信息,并将分散的证据连接成连贯的推理过程。传统的RAG方法主要依赖基于语义相似度的检索,这常常无法捕捉实体与证据单元之间复杂的结构关系。基于图的RAG通过引入图结构知识在一定程度上缓解了这一局限,但成对关系仍不足以表示涉及多个实体、事实和上下文的高阶关联。最近基于超图的RAG方法通过超图进一步改善了知识表示,但它们主要关注检索和结构表示,而显式的证据链构建和检索后推理仍有待探索。 为解决这一问题,我们开发了HyCE-RAG,即超图证据链检索增强生成(Hypergraph Chain of Evidence Retrieval Augmented Generation),一种面向多跳问答的证据链感知超图推理框架。HyCE-RAG基于超图结构知识表示,将实体、关系和上下文证据组织成超边,并执行置信度感知的启发式搜索来选择、连接和排序相关证据。搜索过程联合考虑了语义相关性、实体连通性、证据覆盖度、推理连贯性和传播的置信度分数。通过在生成前构建显式的证据链,HyCE-RAG为大语言模型提供了更加结构化和可解释的推理上下文。在最近的GraphRAG基准测试和几个广泛使用的问答数据集上的实验表明,HyCE-RAG在答案准确性、上下文相关性和忠实度方面均优于标准RAG和现有的基于图的RAG方法。这些结果表明,HyCE-RAG为RAG的检索后阶段提供了一个有前景的方向,将其从简单的上下文聚合转向结构化的证据推理。 ###### 关键词: 多跳问答\\sep检索增强生成\\sep超图推理\\sep知识超图\\sep大语言模型\\sep可解释人工智能 ## 1 引言 检索增强生成(RAG)已成为一种重要的范式,用于通过外部且持续更新的知识来增强大语言模型(LLM),从而缓解知识陈旧和事实性幻觉问题\[DBLP:journals/corr/abs\-2002\-08909,DBLP:journals/corr/abs\-2312\-10997\]。大多数标准RAG方法采用基于文本块的检索范式,将文档分割成段落,并通过稠密向量相似度进行检索。尽管这种方法对于检索局部相关的上下文是有效的,但它常常无法捕捉实体、关系和证据单元之间的语义结构\[zhao2026survey\]。 这一局限在复杂问答场景中变得尤为关键。首先,语义相似度并不一定意味着事实效用\[asai2024self\]。检索到的段落可能在主题上与查询相关,但缺乏推导正确答案所需的证据或推理前提。其次,对于需要多个推理步骤的组合型问题,必要的证据通常分散在不同的块或文档中\[yang2018hotpotqa,trivedi2023interleaving\]。由于传统RAG将这些块视为独立的上下文单元\[lewis2020retrieval,karpukhin2020dense\],它缺乏明确的机制来建模块间的依赖关系、连接分散的证据并构建连贯的推理路径。因此,其在需要结构化证据整合和可解释推理的任务中效果有限\[jiang2023active\]。 ![[无标题图片]](https://arxiv.org/html/2607.22597v1/images/figure0.drawio.png) 图1:提出的HyCE-RAG框架概览。它从输入问题qq构建查询感知的超图,提取置信度引导的证据链,并生成结构化答案。 为缓解这些局限,最近的研究将图结构知识引入RAG系统。GraphRAG\[edge2024local\]将实体表示为节点,关系表示为边,这有助于组织检索到的知识并支持知识感知的生成\[pan2024unifying\]。然而,传统图结构主要建模成对关系,在捕捉多个实体、关系和证据单元之间的高阶语义关联方面能力有限。这一限制对多跳问答至关重要,因为一个支撑段落可能同时连接多个实体、关系和指向答案的事实。如果仅将此类证据编码为独立的成对边,可能会分割原始的语义单元,并在存在干扰实体时引入虚假的推理路径。 为解决此问题,HyperGraphRAG\[luo2026hypergraphrag\]被提出,用于构建超图结构的知识表示,其中超边可以同时连接多个实体或证据单元。先前基于超图的检索研究表明,此类高阶结构有助于在检索增强生成中建模复杂的证据依赖关系。然而,这些方法主要强调超图表示的构建和利用,而没有明确分析检索到的证据如何对最终答案做出贡献。因此,它们在检索后推理方面提供的可解释性仍然有限,尤其是当多个支持和干扰证据单元混合在一起时。 受这些观察启发,我们开发了HyCE-RAG,即超图证据链检索增强生成(Hypergraph Chain-of-Evidence Retrieval-Augmented Generation),一种面向可解释多跳问答的证据链感知超图推理框架。我们不旨在重新确立超图相对于成对图的普遍优势(这已在先前基于超图的检索工作中得到研究),而是聚焦于HyCE-RAG如何能够在查询感知的超图上传播和组织置信度,以形成用于答案生成的忠实证据链。 与传统RAG直接将检索到的文本块送入LLM,以及GraphRAG通常从知识图中检索与查询相关的节点、边或子图作为支撑上下文不同,HyCE-RAG将检索到的文档转换为基于超图的证据结构。在此结构中,超边连接多个相关实体和证据单元,从而能够表示超越成对关系的高阶关联。基于此结构,HyCE-RAG执行置信度感知的启发式搜索,联合考虑语义相关性、实体连通性、证据覆盖度、推理连贯性和传播的置信度分数。选中的证据随后被组织成显式的证据链,将问题、中间证据和答案支撑上下文连接起来,并将这些链作为结构化推理输入提供给LLM。由此,HyCE-RAG将基于超图的RAG从知识表示扩展到检索后的证据组织和推理。 本研究的主要贡献总结如下: - •我们提出了HyCE-RAG(超图证据链检索增强生成),一种基于超图的检索增强生成框架,用于可解释的多跳问答。基于超图的高阶建模能力,HyCE-RAG将语料库中的实体、关系和证据单元表示为一个超图,从而实现查询感知的证据检索和结构化证据组织。 - •我们引入了一种在查询感知超图上的置信度传播机制。通过实体与超边关联关系传播查询相关性,HyCE-RAG不仅能识别初始检索到的入口实体,还能识别出结构上连接且与查询相关、对多跳推理至关重要的实体。 - •我们开发了一种置信度引导的证据组装与评分策略,将检索到的超边、实体和有向关系组织成紧凑的证据路径。评分方案联合考虑语义相关性、实体覆盖度、关系可靠性和传播的置信度,使HyCE-RAG能够为下游答案生成选择更可靠、更具可解释性的证据。 本文其余部分组织如下。第2节回顾相关工作。第3节介绍HyCE-RAG框架及其主要组成部分。第4节给出实验结果与讨论。第5节总结全文。 ## 2 相关工作 ### 2.1 检索增强生成 检索增强生成(RAG)通过检索外部知识并将生成过程基于检索到的上下文来增强LLM\[arslan2024survey\]。大多数现有的RAG系统依赖稠密检索,即将文档分割成段落或块,并根据它们与查询的语义相似度进行排序\[gupta2024comprehensive\]。这一范式使LLM能够访问外部且与查询相关的知识,从而缓解了仅依赖参数化记忆的局限。 尽管有效,标准RAG通常将检索到的块视为独立且扁平的文本单元\[zeeshan2025rag\]。大多数RAG方法通过静态分割文档来将检索到的块视为独立且扁平的文本上下文,这完全破坏了连续文本单元之间的固有关系。结果,检索到的上下文通常以松散组织的文本片段形式呈现给LLM,难以捕捉实体级别的依赖关系、连接分散证据并形成连贯的推理路径。这个问题在复杂问答中尤为关键,因为推导正确答案通常需要整合分布在多个文档中的多个证据\[jiang2025retrieve\]。这些挑战促使了结构化感知的RAG方法的发展,这些方法显式建模检索到的证据之间的关系。 ### 2.2 基于图和基于超图的RAG 为克服扁平块检索的局限,基于图的RAG方法将结构化知识表示引入检索和生成过程\[xiang2025use\]。这些方法不是检索孤立的文本块,而是从文档中提取实体和关系来构建知识图或其他图结构索引,然后检索与查询相关的节点、边、子图或社区摘要作为生成上下文\[zhu2025knowledge\]。通过显式的图结构组织知识,基于知识图的RAG能够更好地捕捉实体级别的关系,并为LLM提供更结构化的上下文。利用图结构对复杂连通性、方向性、可诊断性和容错信息传输进行建模,在图论和网络科学中有着悠久的传统\[mu2010ordered,zhao2017algorithm,wang2016diagnosability,wang2018edge,wang2011embedding\]。这一方向上的代表性方法包括GraphRAG\[edge2024local\],它构建了以实体为中心的图并附带社区摘要,以支持全局和局部检索;LightRAG\[guo2024lightrag\],通过轻量级图索引提高检索效率;以及GFM-RAG\[luo2026gfm\],进一步研究了图基础模型在检索增强生成中的应用。除检索特定方法外,LLM也被用于增强知识图谱补全\[xu2024multi\],凸显了LLM在改善基于图的知识结构方面的更广泛潜力。最近的图学习研究进一步表明,基于图神经网络和注意力的模型能够捕捉复杂系统中的非平稳、关系性和时空依赖关系\[wei2025fstgat\],这与在基于图和基于超图的RAG中使用结构化证据依赖的动机一致。 ![[无标题图片]](https://arxiv.org/html/2607.22597v1/images/figure1.drawio.png) 图2:Naive RAG、GraphRAG与HyCE-RAG的概念对比。HyCE-RAG在超图表示上构建置信度引导的证据链,用于结构化的检索后推理。 然而,传统图主要表示实体之间的成对关系,这在多个实体、事件、关系或证据单元共同支撑答案的复杂推理场景中可能不足。在多跳问答中,一个支撑段落通常同时连接多个实体和事实。如果仅将此类证据表示为独立的成对边,可能会分割原始的语义单元,并引入噪声或虚假的推理路径,尤其当干扰上下文包含词汇上相关的实体时。 为解决这一局限,Luo等人\[luo2026hypergraphrag\]引入了HyperGraph-RAG,这是一个开创性的基于超图的RAG框架,使用超边同时连接多个相关单元。与普通图结构相比,超图为建模实体、关系和证据单元之间的高阶关联提供了更具表现力的表示。先前基于超图的检索研究表明,高阶结构有助于在检索增强生成中组织复杂的证据依赖关系。 尽管如此,现有的基于图和基于超图的RAG方法主要强调知识组织和检索,但在解释检索到的证据如何被连接、加权并用于推导最终答案方面提供的支持有限。这一局限在多跳问答中尤为关键,因为模型必须整合跨多个上下文的分散证据、评估相互竞争的证据并形成连贯的推理链\[yang2018hotpotqa,ho2020constructing\]。 ### 2.3 多跳证据检索与推理 多跳问答要求模型在推导最终答案之前检索、组织和整合多个证据\[mavi2024multi\]。与单跳问答(单个段落可能包含足够信息)不同,多跳问题通常涉及分布在多个文档或上下文中分散的支撑事实\[chen2019multi\]。这一设定给模型带来了若干关键挑战。
相似文章
上下文感知与关系感知的图检索增强生成的统一框架
本文提出了HyGRAG,一种层次化图RAG框架,整合了上下文与关系信息以支持多跳推理,在现有方法基础上实现了平均准确率提升9.7%。
DynaKRAG: 多跳检索增强生成中可学习证据控制的统一框架
DynaKRAG提出了一种用于多跳检索增强生成的统一框架,该框架学习状态条件策略以选择证据操作,在HotpotQA、2Wiki和MuSiQue上优于基线。
GRACE-RAG:规范证据合成的受控检索架构,支持在封闭领域机构环境中轻量化部署
本文介绍了 GRACE-RAG,这是一种检索受控、图增强的 RAG 架构,它将结构推理从生成过程外化到结构化的检索层,从而能够在封闭领域的机构环境中实现轻量化部署。实验表明,在中规模模型上质量提升高达 20%,同时减少了计算和延迟开销。
ContextRAG:面向检索增强生成的无抽取层次图构建
ContextRAG引入了一种无抽取方法,用于构建面向检索增强生成的层次图索引。该方法利用残差量化K均值(Residual-Quantization K-Means)和形式概念分析(Formal Concept Analysis),将大语言模型(LLM)调用和Token数量减少数个数量级,同时在多跳问题上保持具有竞争力的F1分数。
为什么检索增强生成会失败:图视角
本文探讨了检索增强生成(RAG)系统即使在获取到正确证据的情况下仍然失败的原因。通过电路追踪和归因图,作者发现正确的预测展现出更深的推理路径和更分散的证据流,而失败则表现为浅层、碎片化的模式。他们提出了一个基于图的错误检测框架和有针对性的干预措施,以提高RAG的可靠性。