Hybrid-IR：面向复杂医学问答的双路径混合检索与迭代推理

# Hybrid-IR: 面向复杂医学问答的双路径混合检索与迭代推理
来源: https://arxiv.org/html/2606.25338
11institutetext:南京农业大学人工智能学院, 南京, 中国
11email:[email protected], [email protected], [email protected]
22institutetext:南京理工大学计算机科学与工程学院, 南京, 中国
22email:[email protected]

###### 摘要

大型语言模型（LLMs）在包括医学问答（QA）在内的广泛生物医学应用中展现出良好性能，但仍容易产生幻觉和依赖过时知识。尽管检索增强生成（RAG）通过引入外部文档可缓解此问题，但仍存在两个根本性局限。首先，医学知识常分散于多个文档，而大多数RAG方法依赖单一检索路径，难以同时保留细粒度语义信息和结构化全局关联。其次，静态检索策略通常不足以支持复杂医学问答中重要的深度推理。本文提出一种双路径检索框架，结合迭代检索-推理机制，称为“Hybrid-IR”，用于复杂医学问答。所提出的Hybrid-IR融合了基于图的检索以探索结构化知识，以及密集检索以实现细粒度语义匹配。此外，通过迭代检索-推理循环，可逐步优化推理轨迹。在三个广泛使用的医学问答基准上的实验证明了Hybrid-IR的有效性。

## 1 引言

大型语言模型（LLMs）[20 (https://arxiv.org/html/2606.25338#bib.bib20),38 (https://arxiv.org/html/2606.25338#bib.bib38)]在广泛的生物医学应用中展现出巨大潜力，尤其是在需要深度推理专业领域知识的医学问答（QA）任务中[25 (https://arxiv.org/html/2606.25338#bib.bib25),28 (https://arxiv.org/html/2606.25338#bib.bib28),27 (https://arxiv.org/html/2606.25338#bib.bib27)]。尽管性能强劲，但在复杂医学场景中部署LLMs仍具挑战。一个主要局限是LLMs容易生成看似合理但缺乏事实依据的幻觉[6 (https://arxiv.org/html/2606.25338#bib.bib6)]。此外，LLMs对静态预训练数据的依赖限制了其整合最新医学知识和临床指南的能力[17 (https://arxiv.org/html/2606.25338#bib.bib17)]。因此，基于LLM的医学问答系统的可靠性仍不足。

检索增强生成（RAG）[14 (https://arxiv.org/html/2606.25338#bib.bib14)]通过将外部文档整合到生成过程中并提供严格的生成约束，为减少幻觉提供了有效解决方案，使LLM能够利用最新知识回答问题。然而，将RAG应用于生物医学领域带来了独特挑战。一个关键挑战是，现有RAG方法通常依赖单一检索路径，要么基于向量，要么基于图，这使得同时保留细粒度语义信息和结构化全局关联变得困难[2 (https://arxiv.org/html/2606.25338#bib.bib2)]。基于向量的检索方法通常将文档编码为孤立的嵌入向量，捕捉语义相似性，但未能明确建模生物医学实体间的结构化关系[17 (https://arxiv.org/html/2606.25338#bib.bib17),12 (https://arxiv.org/html/2606.25338#bib.bib12)]。这种碎片化的知识表示严重限制了跨文档综合见解的能力，尤其是在证据分散于生物医学领域多种来源时。相比之下，基于图的检索方法（如GraphRAG[4 (https://arxiv.org/html/2606.25338#bib.bib4)]）引入结构化图来建模实体间的依赖关系，增强了捕捉全局上下文关系的能力[23 (https://arxiv.org/html/2606.25338#bib.bib23),31 (https://arxiv.org/html/2606.25338#bib.bib31)]。然而，图构建过程往往无法保留细粒度的文本语义，这可能降低基于原始医学文档的证据精度。除这一局限外，大多数现有方法依赖静态检索策略，仅在生成过程之前执行一次文档检索[37 (https://arxiv.org/html/2606.25338#bib.bib37)]。这种设计通常不足以应对需要多步推理的复杂生物医学问题。中间推理步骤常揭示额外的信息需求，但检索与推理的解耦阻止了系统动态调整检索焦点。因此，静态检索可能无法获取后续推理步骤所需的证据，导致证据链不完整[29 (https://arxiv.org/html/2606.25338#bib.bib29),37 (https://arxiv.org/html/2606.25338#bib.bib37)]。

为应对这些挑战，我们提出一种新方法，称为“Hybrid-IR”，通过双路径迭代推理-检索方案增强生物医学问答的RAG。具体地，我们设计了一个KG索引（KG-index）模块，从提取的三元组中构建结构化跨文档索引，显式链接跨文档的分散医学实体和关系。此外，引入文档层，通过溯源关系将实体节点与其源文档块对齐，实现从抽象实体级推理到有根据的文本证据的无缝转换。同时，设计密集检索以捕捉原始文本中非结构化的细粒度语义细节，弥补图构建过程中可能丢失的信息。为了实现复杂生物医学问题的深入全面推理，我们进一步将双路径检索整合到一个迭代框架中，形成连续的“检索-推理-检索”循环。该机制能够在推理步骤间累积综合证据并动态优化推理轨迹。通过利用推理轮次中获得的知识指导后续检索，系统有效优化了通向目标解的推理路径，从而克服了复杂多跳任务中静态证据聚合的局限。我们在三个闭卷医学问答基准上评估了所提出的Hybrid-IR，其中不提供任何金标准文档。实验结果表明，Hybrid-IR将强骨干LLM（包括Llama-3-8B-Instruct[1 (https://arxiv.org/html/2606.25338#bib.bib1)]和GPT-4o-mini[20 (https://arxiv.org/html/2606.25338#bib.bib20)]）的平均准确率提升了最多10个百分点。贡献总结如下：

- • 我们提出了一个双路径检索框架，共同捕捉细粒度语义信息和结构化关系知识，为复杂医学问答实现全面的证据聚合。
- • 我们设计了一种迭代推理-检索机制，通过多轮“检索-推理-检索”逐步累积证据并动态优化推理轨迹。
- • 跨三个医学问答基准的广泛实验证明了Hybrid-IR的有效性，在开源和商业LLM骨干上均取得一致的性能提升。

## 2 相关工作

### 2.1 检索增强生成

RAG通过检索相关文档将外部知识整合到LLM中，以促进生成。早期工作通常依赖预训练的密集嵌入模型将分块文档编码为离散向量，然后基于查询与文档之间的相似度进行检索和重排序（如Contriever、Colbert）[8 (https://arxiv.org/html/2606.25338#bib.bib8),13 (https://arxiv.org/html/2606.25338#bib.bib13)]。尽管这些方法高效且泛化性强，但将文档视为独立检索单元使得捕捉文档间潜在的语义关系变得困难。近期方法开始引入结构化图来显式建模知识关系。具体而言，出现了不同的图构建范式，以在不同粒度级别建模知识[16 (https://arxiv.org/html/2606.25338#bib.bib16),39 (https://arxiv.org/html/2606.25338#bib.bib39),40 (https://arxiv.org/html/2606.25338#bib.bib40)]。例如，早期方法如KGP[33 (https://arxiv.org/html/2606.25338#bib.bib33)]使用超链接和KNN相似性，但遗漏了语义关联。RAPTOR[24 (https://arxiv.org/html/2606.25338#bib.bib24)]通过递归摘要构建层次树。GraphRAG[4 (https://arxiv.org/html/2606.25338#bib.bib4)]使用LLM提取实体和关系，形成带有社区检测和摘要的层次图。HippoRAG[9 (https://arxiv.org/html/2606.25338#bib.bib9)]和HippoRAG 2[5 (https://arxiv.org/html/2606.25338#bib.bib5)]应用OpenIE诱导知识图谱，捕捉事实关系。在这些基础上，先进方法如G-reasoner[18 (https://arxiv.org/html/2606.25338#bib.bib18)]提出了精细的多层图构建策略，将知识组织为四个层次级别（例如，实体、簇、类别和文档级别）以管理逻辑依赖[32 (https://arxiv.org/html/2606.25338#bib.bib32)]。除结构构建外，有效利用这些图结构来源对于弥合结构上下文与检索精度之间的差距至关重要。HippoRAG和HippoRAG 2在图结构上使用个性化PageRank算法识别相关知识，从而增强多跳推理能力。类似地，GFM-RAG[17 (https://arxiv.org/html/2606.25338#bib.bib17)]引入了一种基于图神经网络（GNNs[35 (https://arxiv.org/html/2606.25338#bib.bib35),39 (https://arxiv.org/html/2606.25338#bib.bib39),40 (https://arxiv.org/html/2606.25338#bib.bib40)]）的图基础模型，实现了跨不同数据集的稳健推理。

### 2.2 用于医学问答的检索增强生成

生物医学问答因专业术语以及需要整合分散在多个科学文档中的证据而提出了额外挑战。研究人员提出了几种检索方法来增强生物医学信息检索和RAG框架。例如，MedCPT[11 (https://arxiv.org/html/2606.25338#bib.bib11)]是一个专门为生物医学领域定制的密集嵌入检索器和重排序器。它通过利用PubMed的大规模用户点击日志解决了生物医学领域查询-文章标注数据稀缺的问题。除了领域特定的检索模型，还开发了多个用于生物医学问答的RAG框架。MedRAG工具包[36 (https://arxiv.org/html/2606.25338#bib.bib36)]为评估生物医学领域的RAG系统提供了全面基准。它采用结合稀疏检索和密集检索的策略从MedCorp语料库中提取相关文档。类似地，MedGraphRAG[34 (https://arxiv.org/html/2606.25338#bib.bib34)]构建基于三元组的知识图谱以建模知识实体间的复杂关系，并采用U检索技术提高证据检索效率。为应对生物医学问答中的多步推理需求，i-MedRAG[37 (https://arxiv.org/html/2606.25338#bib.bib37)]通过迭代检索机制逐步扩展证据，使模型能够为多步问答任务收集额外上下文。然而，大多数现有方法主要依赖单一检索范式。尽管MedRAG结合了稀疏和密集检索器，但它并未显式利用文档间的结构化关系。相反，MedGraphRAG专注于结构化的图证据，但可能忽视细粒度的文本语义。此外，尽管迭代检索已被探索（例如i-MedRAG），但它通常作为独立的证据扩展循环运行，与LLM的中间推理状态解耦。为解决这些问题，我们提出了一种双路径检索框架，结合迭代检索-推理机制，用于复杂生物医学问答。与依赖单一检索范式的现有RAG框架不同，Hybrid-IR将两种范式整合到一个迭代检索-推理机制中，使推理反馈能够动态优化混合证据检索。

## 3 方法

参见图注

图1：所提出的Hybrid-IR框架整体架构。

本节详细阐述我们提出的Hybrid-IR（见图1 (https://arxiv.org/html/2606.25338#S3.F1)）。具体而言，我们通过解释离线混合索引构建（见3.1节 (https://arxiv.org/html/2606.25338#S3.SS1)）、介绍在线双路径检索（见3.2节 (https://arxiv.org/html/2606.25338#S3.SS2)）以及详细阐述用于问答的迭代检索-推理（见3.3节 (https://arxiv.org/html/2606.25338#S3.SS3)），来说明Hybrid-IR的关键组件。

### 3.1 离线混合索引构建

知识图谱显式建模实体间的依赖关系，使得跨多个来源的结构化跨文档索引成为可能。受这些优势的启发，我们构建了基于知识图谱的索引，以显式组织并连接跨文档的分散医学证据。给定文档集合D={d1,d2,...,dn}\mathcal{D}=\{d_{1},d_{2},\ldots,d_{n}\}，我们首先对文档进行医学命名实体识别和关系抽取，提取实体E\mathcal{E}和关系Rent\mathcal{R}_{\text{ent}}，形成三元组T⊆E×Rent×E\mathcal{T}\subseteq\mathcal{E}\times\mathcal{R}_{\text{ent}}\times\mathcal{E}。此过程可通过现有的开放信息抽取（OpenIE）工具实现[21 (https://arxiv.org/html/2606.25338#bib.bib21),41 (https://arxiv.org/html/2606.25338#bib.bib41)]。这些三元组构成KG索引的初始知识层。为缓解医学文本中的同名异义和语义歧义，我们使用Contriever-MS MARCO[8 (https://arxiv.org/html/2606.25338#bib.bib8)]通过计算实体表示之间的成对余弦相似度进行实体消歧。对相似度超过阈值τ\tau的实体对之间引入无向同义关系，得到增强的三元组集合T+\mathcal{T}^{+}。这种增强通过连接可能出现在不同文档中的高度相似实体，丰富了知识层。然后我们构建实体到文档的倒排索引M∈{0,1}|E|×|D|\mathbf{M}\in\{0,1\}^{|\mathcal{E}|\times|\mathcal{D}|}，其中Mij=1\mathbf{M}_{ij}=1表示实体ei∈Ee_i\in\mathcal{E}在文档djd_j中被提及，否则为0。为支持证据的显式溯源追踪，每个实体链接到其被提取的文档块，形成与知识层并行的文档层。此外，我们引入文档层来捕捉文档间关系（例如，内容相似性或引用链接）。具体地，我们构建一个异质知识图谱，G=Gent∪Glink∪GdocG=G_{\text{ent}}\cup G_{\text{link}}\cup G_{\text{doc}}。实体级子图