面向忠实知识图谱推理的结构内化规则语言模型

# 面向忠实知识图谱推理的结构内化规则语言模型
来源：https://arxiv.org/html/2608.17443
邢瑞卓 单位：合肥工业大学大数据知识工程教育部重点实验室单位：合肥工业大学计算机与信息工程学院 王佳璞 单位：南京理工大学，中国 zxr@mail\.hfut\.edu\.cn, jiapu\.wang@njust\.edu\.cn, manzonghuang@mail\.hfut\.edu\.cn, wugq@hfut\.edu\.cn, xwu@hfut\.edu\.cn 黄满宗 单位：合肥工业大学大数据知识工程教育部重点实验室单位：合肥工业大学计算机与信息工程学院 吴功青 谨致谢：通讯作者单位：合肥工业大学大数据知识工程教育部重点实验室单位：合肥工业大学计算机与信息工程学院 吴信东††脚注标记：单位：合肥工业大学大数据知识工程教育部重点实验室单位：合肥工业大学计算机与信息工程学院
###### 摘要
知识图谱推理（KGR）旨在利用知识图谱中可用的结构证据来发现潜在事实，这对KGR模型的结构语义理解能力提出了挑战。最近的研究表明，大语言模型（LLM）能够通过灵活的上下文学习在KGR任务上取得显著进展。然而，知识图谱结构上下文与LLM参数化知识之间固有的表示不一致问题尚未得到充分解决。这一局限性阻碍了LLM有效感知与KG约束相一致的推理证据，从而削弱了推理的有效性和忠实性。我们将此问题称为LLM在KG上的推理证据感知漂移。为解决此问题，我们提出了一种结构内化规则语言模型（SIRLM），该模型以结构规则生成为核心，将结构知识的参数化学习与推理逻辑的忠实性评估相耦合，使LLM能够紧密锚定于KG基础证据。具体而言，我们首先设计了一个结构内化规则生成器（SIRG），它整合了带有结构关系记忆的上下文学习模块，以协调结构知识和参数知识。此外，我们为SIRG配备了一个基于结构不变性学习的KG分词器，以及一个基于规则约束消息传播的神经符号推理器。这些组件分别为SIRG提供了可学习的结构表示和忠实的规则执行反馈。我们的SIRLM可以无缝集成到标准LLM训练范式中，如SFT和GRPO。在36个数据集上针对17种最先进的KGR方法的广泛实验表明，SIRLM具有显著的优越性111我们的源代码可在https://github.com/lazyloafer/SIRLM获取。
## 1引言
知识图谱（KG）（Ji等 2022 (https://arxiv.org/html/2608.17443#bib.bib17)）通过由实体和关系组成的结构化三元组来表示现实世界的事实，为存储和查询大规模知识提供了一个统一的框架。然而，KG通常是不完整的，导致许多潜在事实未被观察到。因此，知识图谱推理（KGR）（Liang等 2024 (https://arxiv.org/html/2608.17443#bib.bib24)）被提出以利用可用的KG上下文来推断缺失的事实，这为知识驱动的应用程序（Huang等 2026 (https://arxiv.org/html/2608.17443#bib.bib13)；Luo等 2024 (https://arxiv.org/html/2608.17443#bib.bib26)）提供了更充分的证据。传统的KGR方法主要关注知识嵌入（Sun等 2019 (https://arxiv.org/html/2608.17443#bib.bib33)）和逻辑规则学习（Sadeghian等 2019 (https://arxiv.org/html/2608.17443#bib.bib31)），分别通过结构化表示学习和可解释推理（Wan & Du 2021 (https://arxiv.org/html/2608.17443#bib.bib37)）实现高效的事实预测。然而，这些方法通常依赖于KG内的特定上下文实例。当面对一个陌生的KG时，它们通常需要复杂的规则挖掘或模型重训练，这使得这些方法难以泛化到更具挑战性的KGR场景（Zhu等 2022 (https://arxiv.org/html/2608.17443#bib.bib50)；Lee等 2023 (https://arxiv.org/html/2608.17443#bib.bib22)）。
近年来，大语言模型（LLM）（Naveed等 2025 (https://arxiv.org/html/2608.17443#bib.bib28)）在海量自然语料上进行预训练，已在各种推理任务中展现出卓越的性能。最新研究证实，LLM可以在KGR任务上取得突破性成功（Kim等 2023 (https://arxiv.org/html/2608.17443#bib.bib20)；Wang等 2024a (https://arxiv.org/html/2608.17443#bib.bib38)；Zhuo等 2025b (https://arxiv.org/html/2608.17443#bib.bib52)）。借助灵活的上下文学习能力，LLM将其固有的参数知识与KG的结构上下文相结合，并展现出显著的知识涌现能力（Pan等 2024 (https://arxiv.org/html/2608.17443#bib.bib29)），从而在KG中发现未被明确观察到的新事实。更重要的是，与传统的KGR方法相比，基于LLM的方法在面对归纳推理设置中未见过的KG结构时表现出更强的可迁移性（Wang等 2024b (https://arxiv.org/html/2608.17443#bib.bib39)；Guo等 2024 (https://arxiv.org/html/2608.17443#bib.bib11)；Zhuo等 2026 (https://arxiv.org/html/2608.17443#bib.bib53)）。
参考标题图1：LLM在KG上推理证据感知漂移的案例。LLM基于其语义偏好选择错误的推理证据，导致其无法遵循基于KG的推理逻辑得出正确的推理结论。
尽管取得了显著成就，现有的基于LLM的KGR方法仍然难以解决结构化知识与参数化知识之间的表示不一致问题（Jiang等 2024b (https://arxiv.org/html/2608.17443#bib.bib19)），这限制了LLM在推理过程中捕捉KG结构上下文的能力。这一局限性体现在大多数LLM倾向于基于其预训练的语义偏好从KG中选择推理证据，而不是严格遵循从KG导出的结构约束。结果，LLM倾向于生成语义上看似合理但难以植根于KG的推理逻辑，导致推理偏差和结果忠实性下降。我们将此问题称为LLM在KG上的推理证据感知漂移问题，即知识表示的不一致性阻碍了LLM从KG中识别合理证据，从而限制了LLM推理的有效性。图1（https://arxiv.org/html/2608.17443#S1.F1）说明了这种感知偏移给LLM带来的危害。在这种情况下，LLM倾向于基于其语义偏好接受“由同一家公司制作或发行的电影可能在同一地区发行”的断言。因此，证据空间被锚定在图1（https://arxiv.org/html/2608.17443#S1.F1）中标记为红色的子KG上。然而，可以从KG中明确归纳出的结构规则，即release\_region\(X, Y\) = language\(X, Z\)∧\\landspeak\_in\(X, Z\)，反而被误判为弱相关证据空间（在图1（https://arxiv.org/html/2608.17443#S1.F1）中标记为绿色）。此外，对于由匿名标识符表示的关系路径（在图1（https://arxiv.org/html/2608.17443#S1.F1）中标记为紫色），自然语言语义的缺失常常导致LLM刻意忽略这些可能支持正确推理的结构证据。这种对预训练语义线索的偏好以及对结构上下文的忽视，导致LLM的推理过程偏离了正确的KG基础证据空间，最终产生错误的结果。
为解决上述局限性，我们提出了一种结构内化规则语言模型（SIRLM），它使LLM能够准确感知KG基础证据以实现忠实推理。总体而言，SIRLM由一个KG分词器、一个结构内化规则生成器（SIRG）和一个神经符号推理器组成。在此框架中，SIRG作为核心模块负责生成结构化的规则。因此，我们提出了一种基于结构关系记忆（SRM）机制的上下文学习模块，该模块允许SIRG在规则生成过程中对齐预训练知识和结构上下文。作为SIRG的补充，KG分词器基于结构不变性学习（SIL）原则（Galkin等 2024 (https://arxiv.org/html/2608.17443#bib.bib9)；Huang等 2025a (https://arxiv.org/html/2608.17443#bib.bib15)；Zhang等 2024b (https://arxiv.org/html/2608.17443#bib.bib47)）构建，它将KG元素编码为通用的结构表示，使LLM能够以新token的形式掌握它们，而无需特定的文本标注。此外，我们设计了基于规则约束消息传播（RCMP）的规则执行器作为神经符号推理器，它将由推理结论组成的规则忠实度指标反馈给SIRG，形成一个闭环优化，强化结构一致的推理。在模型训练方面，SIRLM可以与标准的监督微调（SFT）和LLM的后训练框架无缝集成。这一能力赋予SIRLM在广泛的跨场景KGR任务中显著的迁移优势。
我们的主要贡献可总结如下：
1. ∙\bullet 我们提出了一种结构内化规则语言模型来缓解LLM在KG上的推理证据感知漂移问题，实现可靠的基于LLM的KG推理。
2. ∙\bullet 我们设计了一个带有结构关系记忆的结构内化规则生成器，以协调LLM知识与KG上下文，并结合了基于SIL的KG分词器和基于RCMP的规则推理器，用于通用结构表示学习和忠实的规则执行反馈。
3. ∙\bullet SIRLM可以与标准LLM训练框架（如SFT和GRPO）无缝集成，实现跨未知KG的可泛化推理。
4. ∙\bullet 在36个数据集上进行的广泛实验结果表明，SIRLM在转导和归纳KGR场景中均表现出卓越的推理能力。
## 2相关工作
KGR研究长期以来一直专注于从KG中挖掘潜在事实，为下游任务提供可解释的知识支持。传统的KGR方法采用结构化表示学习技术，通过将实体和关系投影到合适的嵌入空间中，例如欧几里得空间（Bordes等 2013 (https://arxiv.org/html/2608.17443#bib.bib3)）、复数空间（Trouillon等 2016 (https://arxiv.org/html/2608.17443#bib.bib36)）或流形空间（Xiao等 2016 (https://arxiv.org/html/2608.17443#bib.bib41)）来推断实体和关系之间的潜在关联。为确保推理的可解释性，一些研究引入了基于规则的方法，利用规则挖掘（Qu等 2021 (https://arxiv.org/html/2608.17443#bib.bib30)；Sadeghian等 2019 (https://arxiv.org/html/2608.17443#bib.bib31)）、关系路径检索（Das等 2018 (https://arxiv.org/html/2608.17443#bib.bib6)）或马尔可夫决策过程（Lao & Cohen 2010 (https://arxiv.org/html/2608.17443#bib.bib21)）等技术进行KGR，同时提供明确的推理路径。随着KG规模的扩大，早期的基于嵌入和基于规则的方法难以适应更复杂的知识结构。因此，研究人员将图神经网络（GNN）引入KGR（Galkin等 2022 (https://arxiv.org/html/2608.17443#bib.bib8)；Teru等 2020 (https://arxiv.org/html/2608.17443#bib.bib34)；Zhu等 2022 (https://arxiv.org/html/2608.17443#bib.bib50)）。NBFNet（Zhu等 2021 (https://arxiv.org/html/2608.17443#bib.bib49)）、RED-GNN（Zhang & Yao 2022 (https://arxiv.org/html/2608.17443#bib.bib46)）和InGram（Lee等 2023 (https://arxiv.org/html/2608.17443#bib.bib22)）等方法利用GNN的消息传递机制来捕捉实体和关系的细粒度结构上下文，为全面的推理提供更强的证据。在此基础上，一些研究（Galkin等 2024 (https://arxiv.org/html/2608.17443#bib.bib9)；Huang等 2025a (https://arxiv.org/html/2608.17443#bib.bib15)；Zhang等 2024b (https://arxiv.org/html/2608.17443#bib.bib47)；Cui等 2024 (https://arxiv.org/html/2608.17443#bib.bib5)）专注于提高KGR模型对分布外图结构的泛化能力。这些方法旨在发现KG内可重用的最小子图模式，并学习实体和关系的通用结构表示，即结构不变性学习（SIL）（Galkin等 2024 (https://arxiv.org/html/2608.17443#bib.bib9)）。这项技术能够将未知的KG元素投影到学习到的结构模式中，从而增强模型在复杂推理场景中的性能。
近年来，基于LLM的KGR已成为一个新的研究焦点（Wang等 2024b (https://arxiv.org/html/2608.17443#bib.bib39)；Zhuo等 2025a (https://arxiv.org/html/2608.17443#bib.bib51)；Zhuo等 2026 (https://arxiv.org/html/2608.17443#bib.bib53)）。通过利用LLM强大的知识涌现和上下文学习能力（Pan等 2024 (https://arxiv.org/html/2608.17443#bib.bib29)），这些方法能够揭示KG中更深层次的事实。例如，KICGPT（Wei等 2023 (https://arxiv.org/html/2608.17443#bib.bib40)）和ChatRule（Luo等 2025 (https://arxiv.org/html/2608.17443#bib.bib27)）等方法采用了LLM规划与KG检索范式，提示LLM对给定的子KG执行结构推理。同时，KoPA（Zhang等 2024a (https://arxiv.org/html/2608.17443#bib.bib45)）、MKGL（Guo等 2024 (https://arxiv.org/html/2608.17443#bib.bib11)）和KRLM（Zhuo等 2026 (https://arxiv.org/html/2608.17443#bib.bib53)）等方法则依赖微调技术，将结构知识注入LLM的预训练空间，使其参数知识与KG的结构知识对齐。尽管取得了显著进展，现有基于LLM的方法在处理普遍存在的KG-LLM表示差距时仍面临挑战。在此情况下，KG中有益于推理的结构知识常被LLM视为无关证据，导致所谓的证据感知漂移现象。上述挑战促使我们提出一种更精细的结构知识内化机制，该机制使用结构规则生成作为反馈来指导LLM感知KG上的基础结构逻辑，从而改进模型推理。
## 3预备知识
在本节中，我们将介绍本研究的背景和关键概念。
### 3.1知识图谱推理
我们定义一个KG为\(\mathcal{G}=(\mathcal{E},\mathcal{R},\mathcal{T})\)，其中\(\mathcal{E}\)和\(\mathcal{R}\)分别表示实体集和关系集，