面向多领域知识图谱补全的条件扩散引导知识迁移

# 条件扩散引导的知识迁移用于多领域知识图谱补全
来源：https://arxiv.org/html/2607.03154
\(2026\)

###### 摘要

多领域知识图谱补全（MKGC）旨在通过从其他支持知识图谱迁移知识，改进目标知识图谱中缺失三元组的预测。现有方法通常对跨知识图谱的等价实体施加一致性约束以迁移知识，这可能会抑制实体的领域特定上下文信息。这种设计还可能损害来自所有知识图谱领域的实体表示信息，阻碍性能提升，尤其是在低资源数据场景下。为解决此问题，我们开创性地提出了一种基于生成范式的MKGC方法，并提出了DMKGC，一个条件扩散引导的知识迁移框架。我们的关键洞察是将每个知识图谱视为实体完整信息的部分视图，并通过以支持知识图谱为条件的扩散模型生成信息丰富的领域通用实体嵌入。具体来说，我们首先初始化领域无关的实体嵌入作为先验实体嵌入，然后在各个知识图谱内对其进行编码。之后，我们将来自支持知识图谱的等价实体融合作为条件扩散生成指导。我们利用先验实体嵌入作为代理生成目标，这确保了该条件生成不会偏向任何条件知识图谱。同时，我们还训练生成的嵌入在多个知识图谱间具有预测能力，从而保留领域特定信息。在3个基准测试的14个知识图谱上进行的大量实验表明，在尾部实体预测上相比最先进方法平均MRR提升了4.3%，并且在低资源数据设置下持续获得收益。

知识图谱补全，多领域学习，扩散模型，表示学习，知识迁移

††期刊年份：2026††版权：cc††会议：ACM Web 会议 2026；2026年4月13–17日；阿拉伯联合酋长国迪拜††书标题：ACM Web 会议 2026 论文集 (WWW '26)，2026年4月13–17日，阿联酋迪拜††doi：10.1145/3774904.3792252††isbn：979-8-4007-2307-0/2026/04††ccs：计算方法 知识表示与推理††ccs：计算方法 语义网络

## 1. 引言

知识图谱（KGs）将知识组织为（头实体，关系，尾实体）三元组，是众多Web应用的关键基础（Liu 等人，2023 (https://arxiv.org/html/2607.03154#bib.bib242)；Zhang 等人，2025 (https://arxiv.org/html/2607.03154#bib.bib240)；Liang 等人，2025 (https://arxiv.org/html/2607.03154#bib.bib241)）。然而，其实际效用常因固有的不完整性而受限，从而催生了知识图谱补全（KGC）任务（Pan 等人，2024 (https://arxiv.org/html/2607.03154#bib.bib186)；Wang 等人，2017 (https://arxiv.org/html/2607.03154#bib.bib190)）。通常，KGC旨在推断三元组中的缺失元素，典型的是给定头实体和关系预测缺失的尾实体。在数据稀缺的场景下，该任务可能具有挑战性，因为有限的可观测三元组严重阻碍了预测性能（Luo 等人，2024 (https://arxiv.org/html/2607.03154#bib.bib244)；Sheng 等人，2020 (https://arxiv.org/html/2607.03154#bib.bib243)）。

近年来，在不同领域构建了大量知识图谱，它们提供了互补的知识，有望改进KGC。为此，本文聚焦于**多领域知识图谱补全（MKGC）**¹ —— 一个实际任务，旨在通过使用其他相关的**支持知识图谱**，预测**目标知识图谱**中的缺失三元组。如图1 (https://arxiv.org/html/2607.03154#S1.F1) 所示，任务是在目标知识图谱（EL）中预测（Microsoft, Founder, ?），但 Bill Gates 的上下文三元组稀疏，难以预测。借助支持知识图谱-1（EN）中的相关三元组，可以正确推断查询的三元组。在这里，同时出现在多个知识图谱中的实体（例如 Bill Gates）被称为**等价实体**，它们预先对齐并连接这些知识图谱（Huang 等人，2022 (https://arxiv.org/html/2607.03154#bib.bib174)；Tang 等人，2023 (https://arxiv.org/html/2607.03154#bib.bib175)）。

> 图 1. MKGC 任务的一个简单示例，该任务利用支持知识图谱预测目标知识图谱中的缺失三元组。

尽管 MKGC 任务很实用，但仍未得到充分探索。一个核心挑战在于设计有效的知识迁移模块，将知识从支持知识图谱迁移到目标知识图谱。大多数现有研究（Chen 等人，2020c (https://arxiv.org/html/2607.03154#bib.bib222)；Zhu 等人，2020 (https://arxiv.org/html/2607.03154#bib.bib133)；Singh 等人，2021 (https://arxiv.org/html/2607.03154#bib.bib141)；Huang 等人，2022 (https://arxiv.org/html/2607.03154#bib.bib174)；Tang 等人，2023 (https://arxiv.org/html/2607.03154#bib.bib175)；He and Yang，2024 (https://arxiv.org/html/2607.03154#bib.bib212)）遵循一种**基于一致性的**范式来求解。它们在各个知识图谱内学习实体嵌入，然后对等价实体施加一致性约束（Chen 等人，2017 (https://arxiv.org/html/2607.03154#bib.bib136)；Huang 等人，2022 (https://arxiv.org/html/2607.03154#bib.bib174)；He and Yang，2024 (https://arxiv.org/html/2607.03154#bib.bib212)），以确保知识图谱的语义对齐（如图2 (https://arxiv.org/html/2607.03154#S1.F2)(a) 所示）。尽管取得了成功，但它们主要关注知识图谱间的一致信息，忽略了实体多样化的上下文信息。这种强制执行可能会掩盖每个知识图谱中独特的领域特定信息，过度正则化实体嵌入并限制可预测性，尤其是在低资源场景下（如第4.3节 (https://arxiv.org/html/2607.03154#S4.SS3) 所示）。

为了克服这一局限，我们提出了一种**基于生成的**知识迁移范式（图2 (https://arxiv.org/html/2607.03154#S1.F2)(b)）。核心思想是学习生成**领域通用实体嵌入**，这些嵌入能有效保留丰富的领域特定信息，同时在各领域间保持无偏。为实现此目标，我们采用扩散模型（DMs）（Ho 等人，2020 (https://arxiv.org/html/2607.03154#bib.bib233)），这些模型以来自支持知识图谱的实体信息为条件，生成此类嵌入。这里，每个知识图谱可被视为对实体完整底层信息的部分观测视图。这可以类比于文本条件图像生成，其中不同的文本可以引导生成相同的完整视觉概念（Ho and Salimans，2022 (https://arxiv.org/html/2607.03154#bib.bib246)；Podell 等人，2024 (https://arxiv.org/html/2607.03154#bib.bib235)）。与现有的基于一致性的方法（Chen 等人，2017 (https://arxiv.org/html/2607.03154#bib.bib136)；Huang 等人，2022 (https://arxiv.org/html/2607.03154#bib.bib174)；He and Yang，2024 (https://arxiv.org/html/2607.03154#bib.bib212)；Tang 等人，2023 (https://arxiv.org/html/2607.03154#bib.bib175)）相比，我们的方法为每个实体跨领域生成统一的通用嵌入，从而避免了过于僵化的一致性约束，并产生更具信息量的表示。

然而，一个关键挑战仍然存在：没有真实的领域通用实体嵌入来监督生成过程。为解决此问题，我们转而提出在训练期间使用领域无关的**先验实体嵌入**作为代理生成目标。由于这些先验独立于任何特定的知识图谱领域，它们作为无偏的参考来指导生成，确保生成的嵌入不会偏向任何特定的条件知识图谱。此外，为了保留领域特定信息，我们明确鼓励生成的嵌入在每个知识图谱内具有预测有效性，从而保留各个知识图谱中呈现的领域特定信息。

基于上述思路，我们提出了 DMKGC，一个用于 MKGC 的**条件扩散引导的知识迁移框架**。具体来说，给定一个目标知识图谱和多个支持知识图谱，我们首先共享初始实体嵌入作为先验实体嵌入，这些嵌入随后在各自知识图谱的上下文结构内独立编码。接着，我们引入一个条件扩散模型，以支持知识图谱的编码表示为条件，生成领域通用实体嵌入。这些先验实体嵌入（在知识图谱编码之前）被重用以确保生成的无偏性，并且生成的嵌入还被训练在目标知识图谱中保持 KGC 任务的预测能力。为了实现扩散过程，我们设计了一个注意力条件去噪器，该去噪器根据目标知识图谱自适应地融合支持知识图谱。此外，我们还进一步设计了一种单领域条件正则化以增强生成稳定性，该方法将每个知识图谱视为独立的条件指导，以生成一致的目标。我们的主要贡献可总结如下：

- • 我们开创性地以基于生成的方式形式化 MKGC，产生更具信息量的领域通用表示。
- • 我们提出了一种新颖的 DMKGC²框架，包含 DMs。它利用支持知识图谱作为条件，并通过约束同时实现任务预测性和领域通用信息。
- • 在 3 个基准的 14 个知识图谱上进行的大量实验表明，平均 MRR 显著提升了 4.3%，并在低资源数据场景下显示出持续改进。

> 图 2. 基于一致性的知识迁移范式与我们的基于生成的知识迁移范式。这里，S, T 是支持和目标知识图谱，Q 是预测新三元组的查询。

## 2. 预备知识

本节介绍 MKGC 的问题设置和扩散模型的背景。

### 2.1. 问题形式化

形式化地，令 D = {G_i}_{i=1}^N 为一组知识图谱，其中每个知识图谱 G_i = (E_i, R_i, F_i) 包含实体 E_i、关系 R_i 和事实三元组 F_i。对于任意两个知识图谱 G_i 和 G_j，给定一组小的等价实体对：A_ij = { (e_i, e_j) | e_i ≡ e_j, e_i ∈ E_i, e_j ∈ E_j }。此外，所有知识图谱遵循统一的关系模式 R，即每个 R_i ⊆ R。任务是为目标知识图谱 T = G_t, G_t ∈ D 预测查询三元组 Q = { (h, r, ?) }，利用来自目标知识图谱 T 和所有其他支持知识图谱 S = { G_s | G_s ∈ D, s ≠ t } 的现有三元组。

### 2.2. 扩散模型

本文利用扩散模型（DMs）（Ho 等人，2020 (https://arxiv.org/html/2607.03154#bib.bib233)；Sohl-Dickstein 等人，2015 (https://arxiv.org/html/2607.03154#bib.bib234)）来迁移知识，它包含一个前向过程和一个反向过程。

> 图 3. 我们提出的 DMKGC 框架概览。它包含 (a) 多领域实体编码器以提取知识图谱特征，(b) 条件扩散迁移以生成实体嵌入，以及 (c) 联合训练与推理以实现任务。

#### 2.2.1. 前向过程

给定一个输入数据样本 x_0 ∼ q(x_0)，前向过程通过一个马尔可夫链构建一系列潜变量 x_{1:T}，逐步在 T 步中添加高斯噪声。具体来说，每一步 k 的转移定义为：

(1) q(x_k | x_{k-1}) = N(x_k; √(1-β_k) x_{k-1}, β_k I)，

其中 k ∈ {1,2,...,T}，N 表示高斯分布，因子 β_k ∈ (0,1) 控制步骤 k 添加的噪声尺度。这些因子确保当 T → ∞ 时，变量 x_k 收敛到标准高斯分布，从而允许从高斯噪声中采样，并在反向过程中生成真实样本。

#### 2.2.2. 反向过程

扩散模型通过学习反向前向过程的轨迹，迭代地重构数据。形式化地，从初始状态 x_T ∼ N(0,1) 开始，DMs 参数化一个马尔可夫链，从 x_k 转换到 x_{k-1}：

(2) p_θ(x_{k-1} | x_k) = N(x_{k-1}; μ_θ(x_k, k), Σ_θ(x_k, k))，

其中 k ∈ {T, T-1, ..., 1} 表示反向时间步，μ_θ(x_k, k) 和 Σ_θ(x_k, k) 是由神经网络 θ 生成的高斯分布的均值和协方差。为简单和训练稳定性，Σ_θ(x_k, k) 通常设为随时间步变化的常数 σ²(k) I（Ho 等人，2020 (https://arxiv.org/html/2607.03154#bib.bib233)）。这样，反向过程可以看作是一个逐步去噪过程，捕捉微小变化。

#### 2.2.3. 训练

目标函数通过最大化观测数据 x_0 可能性的证据下界（ELBO）来优化，以支持数据生成（Ho 等人，2020 (https://arxiv.org/html/2607.03154#bib.bib233)），即：

(3) log p(x_0) = log ∫ p(x_{0:T}) dx_{1:T} = log E_{q(x_{1:T} | x_0)} [ p(x_{0:T}) / q(x_{1:T} | x_0) ]  
≥ 重构项 L_0 - 先验匹配项 L_T - ∑_{k=2}^T 去噪匹配项 L_{k-1}，

其中，重构项：衡量从 x_1 重构 x_0 的保真度……（注：公式较长，已截断，但翻译时保留原意即可。）

（后续内容未完，但根据指令，我们只翻译给定文本，如果原文没有结束，则停止在提供的内容处。）