PEARL：用于归纳知识图谱补全的上下文子图路径-实体对齐关系学习

# PEARL: 基于上下文子图的路径-实体对齐关系学习用于归纳式知识图谱补全
来源: https://arxiv.org/html/2609.02216

杨云驰
单位：山东大学数学学院
单位：中国济南 250100
邮箱：[ycyang@mail\.sdu\.edu\.cn](mailto:)

李龙龙†† thanks：通讯作者。
单位：南洋理工大学物理与数学科学学院
单位：新加坡 637371，新加坡
邮箱：[longlong\.li@ntu\.edu\.sg](mailto:)

曲存泉111 为进行公平比较，我们使用与PEARL相同的Qwen3\-4B\-Instruct模型实现CATS。
单位：山东大学数据科学研究院
单位：中国济南 250100
邮箱：[cqqu@sdu\.edu\.cn](mailto:)

###### 摘要
归纳式知识图谱补全（IKGC）旨在预测训练期间未见的实体所涉及的缺失链接，要求模型学习可迁移的关系和结构模式。现有的基于子图和路径的方法通常独立于其周围的查询子图来编码关系路径，然而，路径的预测相关性可能因结构上下文的不同而变化。我们提出PEARL，一个路径-实体对齐关系学习框架，它将路径建模为上下文条件下的推理信号。PEARL通过查询实体邻域的并集构建特定于查询的上下文子图，并使用一个大型语言模型（LLM）引导的检索器来蒸馏语义相关的路径。然后，它在路径、上下文实体和全局子图表示之上构建一个二部交互图，使得路径嵌入能够适应局部和全局结构证据。为了抑制扩大上下文引入的噪声，PEARL采用了一个双视图对比目标，以促进在随机上下文扰动下表示的一致性。在WN18RR、FB15k\-237和NELL\-995上的实验表明，PEARL在所有三个基准测试的比较IKGC方法中获得了最佳的平均Hits@10。消融研究、效率分析和案例研究进一步验证了上下文子图建模、语义路径检索、路径-实体交互和对比正则化的贡献。

关键词：归纳式知识图谱补全；大型语言模型；路径-实体对齐；上下文感知路径推理。

## 1 引言
知识图谱（KGs）通过将事实知识组织成关系三元组，已成为众多人工智能应用的基础基础设施，包括推荐\[1 (https://arxiv.org/html/2609.02216#bib.bib17), 2 (https://arxiv.org/html/2609.02216#bib.bib18)\]、问答\[3 (https://arxiv.org/html/2609.02216#bib.bib15), 4 (https://arxiv.org/html/2609.02216#bib.bib16)\]和语义搜索\[5 (https://arxiv.org/html/2609.02216#bib.bib19), 6 (https://arxiv.org/html/2609.02216#bib.bib20)\]。尽管规模庞大，现实世界的知识图谱本质上是不完整的，这推动了知识图谱补全（KGC）以预测缺失事实的广泛研究\[7 (https://arxiv.org/html/2609.02216#bib.bib21), 8 (https://arxiv.org/html/2609.02216#bib.bib22)\]。大多数现有的KGC模型是在转导式设置下开发的，其中假设所有实体在训练期间都是可见的。然而，现实世界的知识图谱不断发展，并频繁引入新实体。例如，电子商务知识图谱随着新发布的产品和品牌不断扩展。因此，每当新实体到来时重新训练整个模型是不切实际的\[9 (https://arxiv.org/html/2609.02216#bib.bib23)\]。因此，归纳式知识图谱补全（IKGC）\[10 (https://arxiv.org/html/2609.02216#bib.bib26), 11 (https://arxiv.org/html/2609.02216#bib.bib27), 12 (https://arxiv.org/html/2609.02216#bib.bib25)\]引起了越来越多的关注，它要求模型学习可迁移到未见实体的关系和结构模式，而不是依赖于特定实体的嵌入。

现有的IKGC方法主要利用三种类型的推理证据。第一种是基于规则的推理\[13 (https://arxiv.org/html/2609.02216#bib.bib5), 14 (https://arxiv.org/html/2609.02216#bib.bib4)\]，它学习可迁移的逻辑规则，并通过关系模式自然支持归纳式推理。第二种是子图证据\[15 (https://arxiv.org/html/2609.02216#bib.bib2), 16 (https://arxiv.org/html/2609.02216#bib.bib3), 17 (https://arxiv.org/html/2609.02216#bib.bib6), 18 (https://arxiv.org/html/2609.02216#bib.bib8)\]，它捕获查询实体周围的局部结构上下文，并通过邻域交互实现推理。第三种是路径证据\[19 (https://arxiv.org/html/2609.02216#bib.bib1), 20 (https://arxiv.org/html/2609.02216#bib.bib30), 21 (https://arxiv.org/html/2609.02216#bib.bib31)\]，它提供了连接查询实体的显式多跳关系链，并提供了超出局部结构信息的互补逻辑线索。这三种范式从不同角度显著推进了归纳式知识图谱补全。

有效的归纳式推理通常受益于利用查询实体周围的广泛关系证据，因为额外的三元组可以为关系预测提供互补的结构和语义线索。然而，现实世界的知识图谱不可避免地包含噪声或无关信息\[22 (https://arxiv.org/html/2609.02216#bib.bib38), 23 (https://arxiv.org/html/2609.02216#bib.bib39)\]，使得并非所有可用证据都对推理同样有用。此外，关系路径的预测效用可能在不同的结构上下文中差异很大\[24 (https://arxiv.org/html/2609.02216#bib.bib32)\]。例如，同样的推理路径\((\text{Company}_{A},\allowbreak\text{invests\_in},\allowbreak\text{Startup}_{X},\allowbreak\text{produces},\allowbreak\text{Product}_{Y})\)可能在一个查询中强烈支持预测一次收购，特别是当周围结构显示StartupX严重依赖CompanyA的供应链且CompanyA持有 majority stake时。然而，在另一个查询中，如果CompanyA仅仅是一个小股东，ProductY主要销售给竞争对手公司，表明这只是一个纯粹的金融关系而非战略联盟，那么同样的路径可能提供弱得多的证据。

这些特点带来了两个关键挑战。首先，如何在保留目标三元组核心语义并限制噪声证据影响的同时，有效地融入更丰富的关系和结构信息？其次，局部子图通常包含多条连接查询实体的关系路径，其中一些可能是冗余的或与目标关系仅弱相关\[25 (https://arxiv.org/html/2609.02216#bib.bib33)\]。由于路径的语义重要性可能在不同的局部结构环境中进一步变化，因此识别有信息的推理路径并将其与周围上下文适当关联以进行特定于查询的推理仍然具有挑战性。

为了解决这些挑战，我们提出PEARL，一个基于路径-实体对齐关系学习的IKGC框架。PEARL首先构建基于并集的上下文子图以捕获更丰富的结构证据。为了缓解随之而来的噪声，引入了一个双视图子图对比目标来保持不变的结构语义。同时，一个LLM引导的路径检索模块对候选路径进行排序，并保留最有信息的逻辑证据。最后，PEARL通过一个二部图神经网络（BGNN）显式地将路径与上下文实体节点和全局子图表示对齐，从而实现上下文条件下的路径推理。因此，相同的关系路径在不同的结构环境下可以有不同的解释，从而实现更稳健的归纳式推理。

我们的主要贡献总结如下：
- • 我们提出PEARL，一个统一的归纳式知识图谱补全框架，它联合建模上下文子图和关系路径，以改进对未见实体的推理。
- • 我们开发了一种LLM引导的路径检索和路径-实体对齐策略，结合上下文子图对比学习，以识别有信息的关系证据并学习稳健的上下文感知表示。
- • 在WN18RR、FB15k\-237和NELL\-995上的大量实验表明，PEARL实现了强大的整体性能，并在所有三个基准测试中获得了最佳的平均Hits@10。

## 2 相关工作
归纳式知识图谱补全旨在预测涉及训练期间未见实体的缺失三元组。与转导式链接预测不同，归纳式推理要求模型学习可迁移的关系模式，而不是记忆特定实体的嵌入\[26 (https://arxiv.org/html/2609.02216#bib.bib14)\]。现有方法大致可分为基于规则的方法、基于子图的方法和子图与路径结合的方法。

### 2.1 基于规则的方法
基于规则的方法天然适合归纳式推理，因为它们专注于学习独立于特定实体的逻辑模式。NeuralLP\[14 (https://arxiv.org/html/2609.02216#bib.bib4)\]引入了一个端到端可微框架，通过可微推理算子学习逻辑规则。DRUM\[13 (https://arxiv.org/html/2609.02216#bib.bib5)\]通过引入虚拟关系并通过参数共享支持不同长度的规则，进一步提高了表达能力。与传统的规则挖掘方法（如AMIE\[27 (https://arxiv.org/html/2609.02216#bib.bib13)\]和RuleN\[28 (https://arxiv.org/html/2609.02216#bib.bib12)\]）相比，可微规则学习方法提供了更好的可扩展性和端到端优化。尽管基于规则的方法提供了强可解释性和对未见实体的泛化能力，但它们通常难以捕获局部图邻域内的复杂结构语义和高阶交互。

### 2.2 基于子图的方法
基于子图的方法通过提取和编码查询实体周围的局部图结构进行推理。GraIL\[26 (https://arxiv.org/html/2609.02216#bib.bib14)\]首先引入了封闭子图提取用于归纳式链接预测，证明了局部结构模式对未见实体推理的有效性。CoMPILE\[17 (https://arxiv.org/html/2609.02216#bib.bib6)\]通过关系感知的消息传递进一步增强了子图表示，而TACT\[16 (https://arxiv.org/html/2609.02216#bib.bib3)\]融入了拓扑关系模式以捕获更丰富的结构语义。为了提高子图质量，LCILP\[29 (https://arxiv.org/html/2609.02216#bib.bib24)\]采用了基于个性化PageRank（PPR）的聚类策略来减轻中心节点噪声并提取更有信息的局部邻域。MINES\[30 (https://arxiv.org/html/2609.02216#bib.bib29)\]在邻域增强子图上引入消息互通机制以加强信息传播。更近期的方法如RMPI\[18 (https://arxiv.org/html/2609.02216#bib.bib8)\]和S2DN\[15 (https://arxiv.org/html/2609.02216#bib.bib2)\]通过关系消息传递和多视图子图建模进一步改进了归纳式推理，从而能够更有效地利用结构语义。

### 2.3 子图与路径结合的方法
除了局部子图结构，显式关系路径通过捕获连接查询实体的关系序列，提供了互补的多跳证据\[31 (https://arxiv.org/html/2609.02216#bib.bib43), 32 (https://arxiv.org/html/2609.02216#bib.bib44)\]。NBFNet\[12 (https://arxiv.org/html/2609.02216#bib.bib25)\]将关系推理表述为广义Bellman–Ford过程，并学习通过神经消息传递聚合路径证据，在转导式和归纳式链接预测任务上都取得了强劲的性能。SNRI\[19 (https://arxiv.org/html/2609.02216#bib.bib1)\]将邻域关系信息融入子图表示，以更好地捕获未见实体的语义。RPC\-IR\[20 (https://arxiv.org/html/2609.02216#bib.bib30)\]通过对比学习和一阶规则归纳进一步增强了关系路径表示，提高了逻辑推理证据的质量。最近，CATS\[21 (https://arxiv.org/html/2609.02216#bib.bib31)\]引入了一个上下文感知框架，利用大型语言模型（LLMs）通过潜在类型约束、关系路径以及从局部子图提取的邻域事实来评估查询三元组。

参见标题
图1：PEARL的总体框架。（A）给定一个查询三元组，PEARL首先从知识图谱中提取一个上下文子图。然后，提出的基于LLM的路径检索与对齐（LPRA）模块检索有信息的关系路径，并构建路径-实体二部图。随后，上下文子图神经网络（CSNN）对上下文子图进行编码，以获得上下文实体表示和全局子图表示。子图对比学习（SCL）通过强制两个增强的上下文子图视图之间的一致性，进一步正则化CSNN表示。所得的上下文表示被纳入路径-实体二部图，其中二部图神经网络（BGNN）执行关系路径与结构信息之间的上下文感知交互。最后，关系感知路径注意力融合（RAPF）模块聚合精炼后的路径表示进行预测。（B）提出的LPRA模块的详细示意图。（C）提出的RAPF模块的详细示意图。

## 3 预备知识
#### 3.0.1 知识图谱
知识图谱是一个元组 \(\mathcal{G}=(\mathcal{E},\mathcal{R},\mathcal{T})\)，其中 \(\mathcal{E}\) 和 \(\mathcal{R}\) 分别是实体和关系类型的有限集合，\(\mathcal{T} \subseteq \mathcal{E} \times \mathcal{R} \times \mathcal{E}\) 是观测到的三元组集合。每个三元组 \((h,r,t) \in \mathcal{T}\) 表示一条从头实体 \(h\) 指向尾实体 \(t\) 的、类型为 \(r\) 的有向边。

#### 3.0.2 上下文子图
基于子图的IKGC\[26 (https://arxiv.org/html/2609.02216#bib.bib14)\] 在与每个查询三元组 \(q=(h,r_q,t)\) 相关的局部图上进行推理。我们使用无向 \(k\) 跳邻域来实例化这种局部性。仅在计算图距离时忽略边方向。设 \(\operatorname{dist}_{\mathcal{G}}(u,v)\) 表示在 \(\mathcal{G}\) 的无向视图中 \(u\) 和 \(v\) 之间的最短路径距离。实体 \(v\) 的 \(k\) 跳邻域为 \(\mathcal{N}^{k}(v) = \left\{ u \in \mathcal{E} \, \middle| \, \operatorname{dist}_{\mathcal{G}}(u,v) \leq k \right\}\)。 (1)

先前的工作通常采用封闭子图 \(\mathcal{G}_{enc}=(\mathcal{V}_{enc},\mathcal{E}_{enc})\)，其中 \(\mathcal{V}_{enc} = \mathcal{N}^{k}(h) \cap \mathcal{N}^{k}(t)\)， (2)
\(\mathcal{E}_{enc} = \left\{ (u,r,v) \in \mathcal{T} \, \middle| \, u,v \in \mathcal{V}_{enc} \right\}\)。 (3)

我们采用上下文子图 \(\mathcal{G}_{cs}=(\mathcal{V}_{cs},\mathcal{E}_{cs})\)