RelBall：基于四元数旋转的关系球用于知识图谱补全

# 基于四元数旋转的关系球模型 RelBall 用于知识图谱补全
来源: https://arxiv.org/html/2606.27967

11 华南师范大学，广州，中国

###### 摘要

现实世界的知识图谱往往不完整，缺少许多有效事实。知识图谱补全（KGC）旨在利用已知三元组预测缺失链接，从而增强图谱覆盖范围。一个关键挑战是建模多样化的关系模式，如对称性、反对称性、逆关系、组合关系和语义层级。现有的模型（如 RotatE）可以捕获对称、反对称、逆和交换组合模式，但难以处理非交换组合。Rotate3D 通过引入三维旋转的非交换性来解决这个问题，但仍未能捕获知识图谱中普遍存在的语义层级。此外，这两个模型都无法有效建模一对多关系。为了克服这些限制，我们提出 RelBall，它通过两项创新扩展了 Rotate3D。首先，我们的模型引入模变换来建模层级结构，使得抽象概念趋向于更小的模，具体实例趋向于更大的模。其次，它引入了一个以尾实体为中心的关系球，用于建模一对一、一对多、多对一和多对多关系。RelBall 具有以下优势：(1) 覆盖所有关系模式，包括上述模式；(2) 可解释的层级表示，其中模直接反映语义层次；(3) 支持一对一、一对多、多对一和多对多关系。在多个数据集上的实验表明，RelBall 在链接预测性能上优于各种基线模型。

## 1 引言

知识图谱将现实世界的事实表示为三元组（头实体，关系，尾实体），广泛应用于问答和推荐系统等任务[7 (https://arxiv.org/html/2606.27967#bib.bib9)]。然而，知识图谱通常是不完整的，许多缺失的链接会降低下游性能。因此，知识图谱补全应运而生，旨在预测缺失的实体或关系，提高知识图谱的覆盖范围和准确性。

知识图谱嵌入是一种流行的 KGC 方法，它将实体和关系映射到低维向量空间，同时保留其结构和语义信息。KGE 方法可分为几何变换、张量分解和神经网络三类。其中，几何变换模型因其参数效率高、收敛速度快、可解释性强而备受关注。

知识图谱中的关系表现出多种模式，包括对称性、反对称性、逆关系和组合关系。组合关系又可进一步分为交换组合和非交换组合两种类型。例如，“妻子的父亲”和“父亲的妻子”分别指岳父和母亲——它们的含义取决于组合顺序，这凸显了非交换性的重要性。虽然 TransE 和 RotatE 等模型能很好地处理交换组合，但它们在非交换情况下往往表现不佳，并且无法区分不同组合顺序的查询。

四元数空间作为超复数空间，能够更灵活地捕获 3D 旋转变换。QuatE[18 (https://arxiv.org/html/2606.27967#bib.bib1)]、QuatRE[8 (https://arxiv.org/html/2606.27967#bib.bib12)] 和 Rotate3D[6 (https://arxiv.org/html/2606.27967#bib.bib8)] 等模型利用四元数进行关系旋转，并取得了良好的补全性能。然而，这些方法通常仅将四元数用于建模关系方向，忽略了模的表现力。这一限制使得模型难以捕获知识图谱中常见的层级结构。此外，之前基于旋转的模型（如 RotatE 和 Rotate3D）通常假设一对一映射，无法有效建模现实知识图谱中普遍存在的一对多、多对一或多对多关系。

为了解决这些限制，我们提出 RelBall，一种基于四元数旋转和模缩放的层级感知知识图谱嵌入模型。RelBall 引入了两项关键创新。首先，它在四元数空间中进行旋转以建模关系模式，同时通过模缩放调整层级距离，从而能够同时捕获语义层级和关系方向。其次，它引入了一个以尾实体为中心的关系球，将实体映射到以尾实体为中心的球上，使模型能够在无需额外参数的情况下自然地处理一对一、一对多、多对一和多对多关系。主要贡献如下：

1.  1. 语义层级建模：将四元数旋转与模缩放相结合来建模层级关系。理论分析证明，模直接反映了语义层次，高层级实体趋向于更小的模，低层级实体趋向于更大的模，这与人类认知的抽象化一致。
2.  2. 3D 旋转的优势：利用四元数进行三维旋转，避免了欧拉角的万向节锁问题，提供了更稳定、更具表现力的旋转表示。
3.  3. 复杂映射的关系球：引入以尾实体为中心的关系球，能够灵活建模一对一、一对多、多对一和多对多关系，克服了之前基于旋转模型的关键限制。
4.  4. 实验结果：在两个标准基准上的实验表明，RelBall 在层级关系建模和链接预测方面均优于竞争基线。

本文组织如下。第2节 (https://arxiv.org/html/2606.27967#S2) 回顾了知识图谱嵌入和层级关系建模的相关工作。第3节 (https://arxiv.org/html/2606.27967#S3) 介绍了四元数旋转和 Rotate3D 的预备知识。第4节 (https://arxiv.org/html/2606.27967#S4) 提出了 RelBall 模型及其理论分析。第5节 (https://arxiv.org/html/2606.27967#S5) 报告了实验结果与讨论。第6节 (https://arxiv.org/html/2606.27967#S6) 总结全文。

## 2 相关工作

### 2.1 知识图谱嵌入方法

知识图谱嵌入方法根据其建模方式可分为三类：几何变换模型、张量分解模型和神经网络模型。

**几何变换模型**将关系视为嵌入空间中的几何运算。基于平移的模型（如 TransE[4 (https://arxiv.org/html/2606.27967#bib.bib5)]）将关系视为从头实体到尾实体的平移，但难以处理复杂的关系模式。基于旋转的模型（如 RotatE[12 (https://arxiv.org/html/2606.27967#bib.bib15)]）在复数空间中引入旋转操作，能够建模对称、逆等关系；QuatE[18 (https://arxiv.org/html/2606.27967#bib.bib1)] 将其扩展到四元数超复数空间，HRotatE[11 (https://arxiv.org/html/2606.27967#bib.bib14)] 进一步引入了层级感知旋转。双曲几何模型（如 MuRP[2 (https://arxiv.org/html/2606.27967#bib.bib3)] 和 HAKE[19 (https://arxiv.org/html/2606.27967#bib.bib20)]）利用双曲空间的指数增长特性来建模层级结构。BoxE[1 (https://arxiv.org/html/2606.27967#bib.bib2)] 使用盒区域表示实体和关系，建模复杂关系模式。

**张量分解模型**将知识图谱视为三阶张量进行分解。DistMult[16 (https://arxiv.org/html/2606.27967#bib.bib19)] 使用对角矩阵进行简化分解，但只能处理对称关系；ComplEx[14 (https://arxiv.org/html/2606.27967#bib.bib17)] 引入复数嵌入，有效建模非对称关系。

**神经网络模型**利用深度网络学习实体与关系之间的交互特征。ConvE[5 (https://arxiv.org/html/2606.27967#bib.bib7)] 使用 2D 卷积学习嵌入交互；A2N[3 (https://arxiv.org/html/2606.27967#bib.bib4)] 引入注意力机制进行邻居聚合。

### 2.2 层级关系建模

建模层级关系在知识图谱嵌入中至关重要。早期方法（如 TransE[4 (https://arxiv.org/html/2606.27967#bib.bib5)]）难以处理此问题，因为平移无法捕获语义距离的变化。HAKE[19 (https://arxiv.org/html/2606.27967#bib.bib20)] 使用平面极坐标中的模量来表示语义层级。

### 2.3 四元数在表示学习中的应用

四元数在知识图谱补全中也有应用：

QuatE[18 (https://arxiv.org/html/2606.27967#bib.bib1)] 首次将四元数引入知识图谱嵌入，使用哈密顿积进行关系旋转。QuatRE[8 (https://arxiv.org/html/2606.27967#bib.bib12)] 通过关系感知的四元数变换扩展了这一思想。HRotatE[11 (https://arxiv.org/html/2606.27967#bib.bib14)] 在四元数空间中引入了层级感知旋转，但仍专注于旋转操作。

## 3 预备知识

### 3.1 四元数基础

四元数 \(q\) 具有以下形式：\(q = a + bi + cj + dk\)，其中 \(a, b, c, d \in \mathbb{R}\)。它由一个实部和三个虚部组成。复数可以视为 \(c = d = 0\) 时四元数的特例。四元数[10 (https://arxiv.org/html/2606.27967#bib.bib6)] 也可以表示为标量-向量对 \(q = [a, \mathbf{u}]\)，其中 \(a \in \mathbb{R}\)，\(\mathbf{u} \in \mathbb{R}i + \mathbb{R}j + \mathbb{R}k\)。

虚数单位 \(i, j, k\) 满足以下规则：

\[
i^2 = j^2 = k^2 = ijk = -1 \tag{1}
\]

由此可得：

\[
ij = k = -ji,\quad jk = i = -kj,\quad ki = j = -ik \tag{2}
\]

基于这些等式，两个四元数 \(q_1 = [a_1, \mathbf{u}_1]\) 与 \(q_2 = [a_2, \mathbf{u}_2]\) 的乘法为：

\[
q_1 q_2 = [a_1 a_2 - \mathbf{u}_1 \cdot \mathbf{u}_2,\ a_1 \mathbf{u}_2 + a_2 \mathbf{u}_1 + \mathbf{u}_1 \times \mathbf{u}_2] \tag{3}
\]

重要的是，由于存在向量叉积 \(\mathbf{u}_1 \times \mathbf{u}_2\)，乘法是非交换的：\(q_1 q_2 \neq q_2 q_1\)。

### 3.2 用四元数表示 3D 旋转

设 \(\mathbf{v} \in \mathbb{R}^3\) 表示三维空间中的一点或向量[6 (https://arxiv.org/html/2606.27967#bib.bib8)]。为了使用四元数执行旋转操作，将 \(\mathbf{v}\) 表示为实部为零的纯虚四元数：

\[
v = [0, \mathbf{v}] \tag{4}
\]

旋转由轴和角度定义。设 \(\mathbf{u} \in \mathbb{R}^3\) 为表示旋转轴方向的单位向量，\(\theta \in \mathbb{R}\) 为旋转角度。对应的旋转由单位四元数表示：

\[
q = \cos\frac{\theta}{2} + \mathbf{u}\sin\frac{\theta}{2} = \left[\cos\frac{\theta}{2},\ \sin\frac{\theta}{2}\,\mathbf{u}\right] \tag{5}
\]

该四元数满足 \(qq^* = 1\)，其中 \(q^* = \cos\frac{\theta}{2} - \mathbf{u}\sin\frac{\theta}{2}\) 是 \(q\) 的共轭和逆 \(q^{-1}\)。旋转后的向量 \(\mathbf{v}'\) 通过以下四元数乘法获得：

\[
v' = q\,v\,q^{-1} \tag{6}
\]

且 \(v' = [0, \mathbf{v}']\)。

几何上，将 \(\mathbf{v}\) 分解为平行和垂直于旋转轴 \(\mathbf{u}\) 的分量：

\[
\mathbf{v} = \mathbf{v}_\parallel + \mathbf{v}_\perp \tag{7}
\]

在旋转 \(v' = qvq^{-1}\) 下，平行分量 \(\mathbf{v}_\parallel\) 保持不变，而垂直分量 \(\mathbf{v}_\perp\) 绕 \(\mathbf{u}\) 旋转角度 \(\theta\)。因此，四元数乘法 \(v' = qvq^{-1}\) 精确表示 \(\mathbf{v}\) 绕轴 \(\mathbf{u}\) 旋转 \(\theta\)。

### 3.3 Rotate3D 模型

Rotate3D[6 (https://arxiv.org/html/2606.27967#bib.bib8)] 将实体投影到 \(\mathbf{h}, \mathbf{t} \in \mathbb{R}^{3 \times n}\)，并将每个关系定义为逐元素旋转。对于三元组 \((h, r, t)\)：

\[
t^{(i)} = q_i h^{(i)} q_i^{-1} \tag{8}
\]

其中 \(i \in \{1, \ldots, n\}\)，\(h^{(i)} = [0, \mathbf{h}^{(i)}]\)，\(t^{(i)} = [0, \mathbf{t}^{(i)}]\)，\(q_i = [\cos\frac{\theta}{2},\ \sin\frac{\theta}{2}\,\mathbf{u}]\)，且 \(\theta\) 和 \(\mathbf{u}\) 构成 \(r^{(i)}\)。为简单起见，此旋转写作：

\[
\mathbf{t}^{(i)} = \mathbf{h}^{(i)} \odot \mathbf{r}^{(i)} \tag{9}
\]

其中 \(\odot: \mathbb{R}^3 \times \mathbb{R}^3 \to \mathbb{R}^3\) 表示由 \(\mathbf{r}^{(i)}\) 引起的 3D 旋转。这遵循标准 Rotate3D 公式。评分函数定义为：

\[
f_r(h, t) = -\sum_{i=1}^n \| \mathbf{h}^{(i)} \odot \mathbf{r}^{(i)} - \mathbf{t}^{(i)} \|_p \tag{10}
\]

其中 \(\|\cdot\|_p\) 表示若 \(p=1\) 则为 L1 范数，若 \(p=2\) 则为 L2 范数。设 \(\mathbf{b} \in \mathbb{R}^n\) 为关系特定的偏置向量，其中 \(b^{(i)}\) 表示其第 \(i\) 个分量（标量）。则：

\[
f_r(h, t) = -\sum_{i=1}^n \| (\mathbf{h}^{(i)} \odot \mathbf{r}^{(i)}) \cdot b^{(i)} - \mathbf{t}^{(i)} \|_p \tag{11}
\]

Rotate3D 主要关注旋转变换。其关系特定的偏置项对旋转后的向量进行逐元素乘法。原始 Rotate3D 论文未约束此偏置项的符号。本文进一步对偏置施加范围约束。几何建模和实验结果表明，约束后的偏置项能够捕获层级关系中的语义距离。这一能力在原始 Rotate3D 论文中未被探索。

## 4 RelBall 模型

### 4.1 模型公式化

RelBall 通过引入模缩放和关系球机制扩展了 Rotate3D。设 \(\mathbf{s}_r, \boldsymbol{\rho}_r \in (\mathbb{R}^+)^n\) 为可学习向量，其分量分别为 \(s_r^{(i)}\) 和 \(\rho_r^{(i)}\)，其中 \(\mathbf{s}_r\) 是缩放因子，\(\boldsymbol{\rho}_r\) 是半径因子。第 \(i\) 个子空间中的关系球半径与尾实体的局部模成正比：

\[
R_r^{(i)} = \rho_r^{(i)} \| \mathbf{t}^{(i)} \|_p, \tag{12}
\]

其中 \(\|\cdot\|_p\) 是 Rotate3D 中使用的 \(L_p\) 范数。

头实体首先被缩放，然后旋转：

\[
\mathbf{t}^{(i)} = (s_r^{(i)} \cdot \mathbf{h}^{(i)}) \odot \mathbf{r}^{(i)}, \tag{13}
\]

其中 \(\odot\) 表示 Rotate3D 中定义的四元数旋转。评分函数变为：

\[
f_r(h, t) = -\sum_{i=1}^n \max\left(0, \| (s_r^{(i)} \cdot \mathbf{h}^{(i)}) \odot \mathbf{r}^{(i)} - \mathbf{t}^{(i)} \|_p - R_r^{(i)}\right). \tag{14}
\]