SGR：一种基于外部子图生成的LLM逐步推理框架

# SGR：一种基于外部子图生成的大语言模型逐步推理框架
来源：https://arxiv.org/html/2605.16117
张鑫1，曹阳2，吴宝兴1，宋凯2，李思颖1 1重庆交通大学信息科学与工程学院 2重庆邮电大学计算机科学与技术学院

###### 摘要

大型语言模型（LLMs）在多种自然语言处理应用中展现了强大能力，例如翻译、文本生成和问答。然而，在需要深度推理和逻辑推断的复杂场景中，它们仍然存在局限性。由于这些模型是在大规模文本语料库上训练的，其生成过程可能仍然会引入不相关、有噪声或与事实不一致的内容。为缓解此问题，我们引入了SGR，一种通过外部子图生成来增强LLM推理的逐步框架。SGR从外部知识库构建查询特定的子图，并利用其语义结构支持多步推理。通过将中间推理步骤锚定在结构化的外部知识中，该框架帮助模型专注于相关实体、关系和支持性证据。特别是，SGR首先构建一个针对输入问题的子图，然后引导模型在生成的结构上逐步推理，并组合多个推理轨迹以获得最终预测。在多个基准数据集上的实验结果表明，SGR比竞争基线取得了持续的改进，凸显了其在提高推理准确性和事实可靠性方面的价值。

SGR: 一种基于外部子图生成的大语言模型逐步推理框架

## 1 引言

大型语言模型（LLMs）的最新进展已成为人工智能发展中的一个重要里程碑。通过在大规模文本语料库上进行预训练，这些模型能够生成流畅且高质量的文本（Brown et al., 2020 (https://arxiv.org/html/2605.16117#bib.bib1)）。通过额外的监督微调，它们还可以适应各种下游自然语言处理任务（Wei et al., 2022 (https://arxiv.org/html/2605.16117#bib.bib2)）。然而，尽管其生成能力令人印象深刻，LLM在复杂推理场景中仍然表现出显著的弱点。特别是，虽然它们能有效生成连贯的文本，但可能无法保持逻辑一致性，导致输出与现实世界事实相冲突。此外，由于参数规模庞大且内部机制不透明，LLM的推理行为通常难以解释（Jacovi and Goldberg, 2020 (https://arxiv.org/html/2605.16117#bib.bib3)）。

缓解这些问题的一种有前景的方法是将外部知识资源，特别是知识图谱（KGs），整合到基于LLM的推理中。知识图谱提供了事实知识的显式和结构化表示，可以弥补参数化语言模型的一些局限性（Ji et al., 2021 (https://arxiv.org/html/2605.16117#bib.bib4)）。先前的工作已经研究了使用知识图谱作为补充知识源来提高LLM的推理能力（Lewis et al., 2020 (https://arxiv.org/html/2605.16117#bib.bib5); Yao and Van Durme, 2014 (https://arxiv.org/html/2605.16117#bib.bib6)）。总的来说，这些方法通过提示构建或额外的上下文输入，将知识图谱导出的信息引入LLM，从而支持推理过程。除了基于知识图谱的增强，最近的研究还研究了LLM与符号或结构表示的集成，以提高系统泛化能力和可解释性（Yang et al., 2024b (https://arxiv.org/html/2605.16117#bib.bib21), a (https://arxiv.org/html/2605.16117#bib.bib23); Xiong et al., 2025 (https://arxiv.org/html/2605.16117#bib.bib24)）。然而，许多现有的知识图谱注入方法仍然依赖于固定或手动制作的提示模板，因此未能充分利用知识图谱中编码的丰富结构信息（Jiang et al., 2023 (https://arxiv.org/html/2605.16117#bib.bib11); Yao et al., 2023 (https://arxiv.org/html/2605.16117#bib.bib7)）。

受此观察的启发，我们引入了SGR，一种基于外部子图生成的LLM逐步推理增强框架。SGR使用知识图谱上的模式引导子图构建，以更准确地识别查询相关知识。通过动态构建外部子图，该框架引导LLM逐步推理，有助于减少不相关或噪声信息的影响，提高推理准确性。此外，SGR结合了直接推理与集成推理策略，生成最终的增强输出。

在多个基准数据集上进行的实验表明，SGR优于现有方法。本文的主要贡献总结如下。

- •我们引入了一个新的逐步推理增强框架，通过结合外部生成的子图来增强LLM的推理能力。该方法提高了LLM处理复杂多步推理问题的能力。
- •我们开发了一个可解释的知识增强推理过程，提高了LLM推理的透明度。生成的推理路径和最终输出可以被追踪和验证。
- •我们在多个基准数据集上进行了广泛的实验，证实了所提出框架的有效性，并展示了其相对于先前方法的优势。

## 2 相关工作

知识图谱将广泛的外部世界知识组织为结构化三元组，并已被广泛用于知识表示和推理（Nickel et al., 2015 (https://arxiv.org/html/2605.16117#bib.bib8)）。早期研究探讨了如何将结构化知识纳入神经模型（Sun et al., 2019 (https://arxiv.org/html/2605.16117#bib.bib9)）。最近，许多研究试图通过在训练或推理阶段注入知识图谱导出知识来增强LLM，从而使各种任务的性能得到提升（Hu et al., 2023 (https://arxiv.org/html/2605.16117#bib.bib10)）。除了静态知识图谱，时间知识图谱已被开发用于建模实体和关系随时间演变的状态，支持在时间约束下进行更丰富的推理（Xiong et al., (https://arxiv.org/html/2605.16117#bib.bib25); Xiong et al., 2024b (https://arxiv.org/html/2605.16117#bib.bib26), a (https://arxiv.org/html/2605.16117#bib.bib22)）。然而，直接将知识图谱知识编码到LLM参数中会显著增加训练成本并限制模型灵活性（Baek et al., 2023 (https://arxiv.org/html/2605.16117#bib.bib16)）。

为了缓解这个问题，最近的工作探索了在推理时从知识图谱中检索查询相关知识，并将其作为补充上下文提供给LLM（Lewis et al., 2020 (https://arxiv.org/html/2605.16117#bib.bib5); Guu et al., 2020 (https://arxiv.org/html/2605.16117#bib.bib17)）。这个方向的现有方法通常可以分为检索增强方法和协同增强方法。

### 2.1 检索增强模型

检索增强模型旨在从外部知识源获取相关信息并将其输入语言模型，帮助模型生成更准确的答案（Lewis et al., 2020 (https://arxiv.org/html/2605.16117#bib.bib5)）。Jiang等人引入了StructGPT，一种结合迭代阅读和推理机制的结构化推理检索框架（Jiang et al., 2023 (https://arxiv.org/html/2605.16117#bib.bib11)）。其他相关研究进一步探讨了对结构化知识的多跳检索和推理，以提高答案准确性（Das et al., 2019 (https://arxiv.org/html/2605.16117#bib.bib18); Chen et al., 2020 (https://arxiv.org/html/2605.16117#bib.bib12)）。

参见图注 图1：SGR框架流水线。尽管检索增强方法有效，但它们仍然存在一些实际局限性。首先，检索到的内容可能无法覆盖知识图谱中编码的完整结构化推理路径，导致推理链不完整（Das et al., 2019 (https://arxiv.org/html/2605.16117#bib.bib18)）。其次，检索过多信息可能会引入无关证据并使模型不堪重负，从而降低推理性能（Izacard and Grave, 2021 (https://arxiv.org/html/2605.16117#bib.bib13)）。最后，当检索到的知识包含错误或冗余的事实时，它可能会负面影响最终的推理结果（Petroni et al., 2021 (https://arxiv.org/html/2605.16117#bib.bib19)）。

### 2.2 协同增强模型

协同增强方法侧重于在LLM和知识图谱之间建立交互机制。在这种范式下，语言模型和知识图谱都参与推理过程以产生最终答案（Zhang et al., 2022 (https://arxiv.org/html/2605.16117#bib.bib14); Zhou et al., 2022 (https://arxiv.org/html/2605.16117#bib.bib20)）。通常，这些方法首先使用语言模型生成初始推理结果，然后使用知识图谱验证或细化中间输出，最后获得增强的答案。例如，Zhang等人(2022 (https://arxiv.org/html/2605.16117#bib.bib14))提出了一种知识图谱增强推理框架，其中语言模型对查询进行初始推理，然后使用知识图谱进行验证和纠正。通过与知识图谱的迭代交互，系统逐步提高推理准确性。

与检索增强方法相比，协同增强方法更强调语言模型和知识图谱之间的双向交互。在这种设置下，语言模型不仅接收基于图的知识，而且还产生指导后续知识图谱查询的中间假设（Pan et al., 2024 (https://arxiv.org/html/2605.16117#bib.bib15)）。尽管这种范式可以提高推理的鲁棒性，但它仍然面临交互效率和推理一致性方面的挑战。

## 3 方法

为了更有效地结合大型语言模型的推理能力与外部知识图谱提供的结构化知识，我们引入了SGR，一种基于外部子图生成的逐步推理增强框架。如整体框架所示，SGR由三个主要组件组成：结构化子图构建、逐步推理增强和协同推理集成。

给定一个输入问题，该框架首先将其转换为结构化查询，并从知识图谱中检索相关的子图。然后，语言模型基于生成的子图逐步推理以获得候选答案。最后，来自多个路径的推理结果被集成以产生最终输出。

### 3.1 结构化子图生成

#### 3.1.1 知识图谱构建

设外部知识图谱为

G = (V, E, R), (1)其中V是实体集合，R是关系类型集合，E ⊆ V × R × V表示事实三元组集合。每个三元组(h, r, t) ∈ E指示头实体h通过关系r连接到尾实体t。

对于输入问题q，SGR首先通过提取关键实体、关系和约束来构建结构化表示：

S_q = {V_q, R_q, C_q}, (2)其中V_q ⊆ V表示与问题相关的实体，R_q ⊆ R表示相关关系，C_q表示从问题派生出的附加语义或逻辑约束。

子图构建的目标是识别一个紧凑的查询相关子图

G_q = (V_q*, E_q*, R_q*), (3)其中V_q* ⊆ V，R_q* ⊆ R，E_q* ⊆ E。该子图作为后续推理的结构化知识基础。

生成的子图提供了显式的关系路径，指导语言模型在推理过程中的行为。与非结构化的文本上下文相比，这种结构化表示允许对推理过程进行更精细的控制，并有助于减少不相关信息的影响。

#### 3.1.2 子图生成过程

子图构建过程包含三个主要步骤。首先，语言模型识别输入问题中的核心实体和关系。其次，查询知识图谱以获取相关实体和关系，形成候选子图。第三，过滤掉与问题语义相关性低的节点和边。

形式上，对于每个候选三元组e_i = (h_i, r_i, t_i)，我们计算其与输入问题的相关性分数：

s(e_i, q) = sim(φ(e_i), φ(q)), (4)其中φ(·)表示语义编码器，sim(·, ·)测量语义相似度。最终子图通过保留相关性分数超过阈值τ的三元组来选择：

E_q* = {e_i ∈ E | s(e_i, q) ≥ τ}. (5)
或者，可以通过选择最相关的前k个三元组来获得子图：

E_q* = TopK_{e_i ∈ E} s(e_i, q). (6)
通过为每个输入生成查询特定的子图，SGR避免了固定提示模板的限制，并更好地利用了知识图谱中包含的结构信息。

### 3.2 逐步推理增强

使用生成的子图，SGR引导语言模型以逐步方式进行推理。设一个推理路径表示为

p = (e_1, e_2, ..., e_T), (7)其中每个e_t ∈ E_q*是在推理步骤t处选择的三元组。在每一步，语言模型生成一个中间推理状态z_t，其条件依赖于问题、先前的推理状态和当前子图证据：

z_t = f_θ(q, z_<t, e_t), (8)其中f_θ表示由θ参数化的LLM，z_<t表示先前的推理状态。

生成完整推理轨迹的概率可以写为

P_θ(z_{1:T} | q, G_q) = ∏_{t=1}^{T} P_θ(z_t | q, z_<t, G_q). (9)
为了鼓励推理过程遵循生成的子图，我们引入了一个路径一致性分数：

C(p, G_q) = (1/T) ∑_{t=1}^{T} I(e_t ∈ E_q*), (10)其中I(·)是指示函数。分数越高表示推理路径与检索到的结构化知