TeRoR：解耦时序旋转与关系圆形区域的时序知识图谱嵌入

# TeRoR: 时序知识图谱嵌入中的解耦时间旋转与关系圆形区域

**来源:** https://arxiv.org/html/2606.27651

**作者机构:** 华南师范大学, 广州, 中国

###### 摘要

近年来，随着时序知识图谱（Temporal Knowledge Graphs, TKGs）的出现，对TKGs中实体和关系表示学习的研究日益受到关注，从而涌现出大量的TKG嵌入方法。TeRo是一种简单高效的时序知识图谱嵌入方法。然而，TeRo在建模各种关系的映射特性（如一对多、多对一、多对多）方面表现不佳。同时，它在时序信息的表达上也存在局限性。为了解决这些问题，我们提出了一种名为TeRoR的新型TKG嵌入方法。该方法对实体嵌入进行时序解耦，并在复数向量空间中对头实体和尾实体进行独立的旋转变换，以增强时序信息的建模能力。在关系特性方面，我们训练一个半径参数ρr来约束旋转和平移后的头实体，使其落在一个以尾实体为中心的圆形区域内，从而有效捕获关系的多种映射特性。实验结果表明，在四个不同的TKG数据集上，TeRoR相较于最先进的模型取得了具有竞争力的性能。

## 1 引言

近年来，知识图谱（Knowledge Graphs, KGs）作为大规模结构化语义存储库，已成为从问答系统、信息检索到推荐系统和认知推理等各种人工智能应用中不可或缺的基础设施。经典的公开知识图谱，包括DBpedia[1](https://arxiv.org/html/2606.27651#bib.bib1)、YAGO[6](https://arxiv.org/html/2606.27651#bib.bib6)、NELL[4](https://arxiv.org/html/2606.27651#bib.bib4)和Freebase[2](https://arxiv.org/html/2606.27651#bib.bib2)，以有向图的形式存储现实世界的实体及其相互关系。通常，知识图谱中的事实知识被标准化为三元组表示(s,r,o)，其中主语s和宾语o对应图中的节点（实体），关系r作为连接配对实体的边。然而，现实世界中的知识图谱通常具有海量数据量和异构属性分布的特点，伴随着广泛的数据不完整性和缺失的关系事实。为了解决这些缺陷并提高知识图谱的完整性，知识图谱嵌入（Knowledge Graph Embedding, KGE）技术得到了迅速发展。这些技术将离散的符号化实体和关系投影到连续的、低维的向量空间中，并采用定制的评分函数来衡量三元组的合理性。在现有的KGE算法中，以TransE[3](https://arxiv.org/html/2606.27651#bib.bib3)、TransH[20](https://arxiv.org/html/2606.27651#bib.bib20)、TransR[14](https://arxiv.org/html/2606.27651#bib.bib14)和TransD[9](https://arxiv.org/html/2606.27651#bib.bib9)为代表的基于翻译的模型，因其在模型复杂度和预测精度之间取得了良好平衡而受到广泛关注。

尽管静态KGE模型在链路预测任务中取得了显著成果，但其核心假设——所有关系事实都是永久且普遍成立的——与现实场景相矛盾。事实上，实际知识图谱中的大多数事实关系都具有时间敏感性并动态演化。例如，关系事实 `(奥巴马, 是总统, 美国)` 仅在2009年至2017年间有效，而事件 `(爱因斯坦, 逝于, 普林斯顿)` 唯一发生在1955年。为了记录这类时间依赖的事实，人们构建了包含ICEWS[11](https://arxiv.org/html/2606.27651#bib.bib11)、GDELT[13](https://arxiv.org/html/2606.27651#bib.bib13)和YAGO3[15](https://arxiv.org/html/2606.27651#bib.bib15)在内的时序知识图谱（Temporal Knowledge Graphs, TKGs），它们将传统三元组结构扩展为带有附加时间戳或时间区间的四元组。TKGs的普及进一步推动了时序知识图谱嵌入（Temporal Knowledge Graph Embedding, TKGE）的研究。然而，直接将静态KGE模型应用于TKGs通常会导致严重的性能下降，因为这些静态方法忽略了时间特征，尤其是在建模访问、任期和商品交易等短暂关系时。

为了解决上述局限性，学者们提出了各种TKGE方法，通过显式或隐式编码策略将时间信息嵌入到实体和关系的表示中。典型方法如TTransE[12](https://arxiv.org/html/2606.27651#bib.bib12)和TA-DistMult[7](https://arxiv.org/html/2606.27651#bib.bib7)已被证明在时序链路预测任务中优于传统的静态KGE模型。尽管如此，当前的TKGE框架仍然存在显著的缺点。首先，大多数现有的TKGE模型是基于TransE或DistMult的简单时间扩展，缺乏足够的表达能力来捕获复杂的时间依赖性。其次，几种时间嵌入方法采用特定于时间的超平面结构来建模时间变化，同时内在地假设大多数时间关系是一对一的映射。这种假设无法适应现实TKGs中普遍存在的多样化复杂关系（多对一、一对多、多对多）。因此，设计一个能够准确捕获时间演化并灵活适应多种关系映射类型的高性能TKGE框架仍然是一个具有挑战性的研究问题。

为了克服这些挑战，本文在TeRo[21](https://arxiv.org/html/2606.27651#bib.bib21)模型的基础上提出了一种名为TeRoR的新模型。TeRoR的创新之处在于两个核心设计。一方面，该模型将四元组中时间戳对主语和宾语实体的时间影响进行解耦，并执行独立的时间演化，从而增强了时间信息的利用和表达能力。另一方面，利用关系信息来参数化有效四元组的圆形有效区域，使模型能够精确拟合不同类型的多种关系交互。在主流基准测试上的充分实验结果验证了所提出的TeRoR在时序链路预测中优于最先进的基线模型。本文的主要贡献总结如下：

*   提出了一种对主语和宾语实体进行解耦时间演化的新型TKGE架构，大大增强了嵌入模型的时间信息表示能力。
*   设计了一个关系感知的圆形区域作为有效四元组的合理性边界，实现了对TKGs中复杂多关系交互的有效建模。
*   在多个公开的TKG数据集上进行了系统的实验。实证结果表明，在包括MRR和Hits@K在内的关键评估指标上，TeRoR相较于先进的基线模型取得了稳定且显著的性能提升。

## 2 相关工作

本节全面回顾了具有代表性的静态知识图谱嵌入（KGE）方法和最先进的时序知识图谱嵌入（TKGE）技术，并深入讨论了现有嵌入框架的内在局限性。

传统的静态KGE模型通常分为两大主流类别：基于翻译的距离测量模型和语义匹配模型。

基于距离的模型通过在关系变换后计算几何向量距离来量化关系三元组的可信度。作为开创性的基于翻译的方法，TransE[3](https://arxiv.org/html/2606.27651#bib.bib3)将关系视为统一嵌入空间中的平移向量。然而，它对复杂的多种关系模式（包括一对多、多对一和多对多交互）表现出较弱的建模能力。为了缓解这一缺陷，研究人员提出了改进的变体，如TransH[20](https://arxiv.org/html/2606.27651#bib.bib20)、TransR[14](https://arxiv.org/html/2606.27651#bib.bib14)和TransD[9](https://arxiv.org/html/2606.27651#bib.bib9)。这些模型将实体投影到关系依赖的子空间中，并采用定制的映射矩阵来增强表示的灵活性。此外，RotatE[18](https://arxiv.org/html/2606.27651#bib.bib18)在复数空间中实现了旋转变换来模拟关系属性。

相比之下，语义匹配模型通过测量实体和关系之间潜在的语义兼容性来评估事实的合理性。典型的实现包括基于张量分解的RESCAL[17](https://arxiv.org/html/2606.27651#bib.bib17)和基于全息关联的HoLE[16](https://arxiv.org/html/2606.27651#bib.bib16)。DistMult[23](https://arxiv.org/html/2606.27651#bib.bib23)通过对角关系矩阵简化了计算，但其对称的结构设计使其无法捕获非对称关系。为了解决这个问题，ComplEx[19](https://arxiv.org/html/2606.27651#bib.bib19)和QuatE[24](https://arxiv.org/html/2606.27651#bib.bib24)将嵌入扩展到复数和四元数空间，从而能够有效地对非对称和多样化的静态关系模式进行建模。然而，上述所有模型都遵循静态学习范式，没有专门的时间建模模块，这严重限制了它们在动态时序知识图谱中的适用性。

为了捕获随时间变化的事实特征，TKGE算法将时间线索嵌入到实体和关系的表示学习中。当前的TKGE技术可以分为两个主要的技术分支：

*   **基于翻译的时间扩展**。这类方法从经典的TransE架构演变而来。代表性方法包括TTransE[12](https://arxiv.org/html/2606.27651#bib.bib12)、TA-TransE[7](https://arxiv.org/html/2606.27651#bib.bib7)、HyTE[5](https://arxiv.org/html/2606.27651#bib.bib5)和ATiSE[22](https://arxiv.org/html/2606.27651#bib.bib22)，它们通过时间嵌入加法、注意力分配和时间感知超平面投影来实现时间建模。具体来说，HyTE[5](https://arxiv.org/html/2606.27651#bib.bib5)构建独立的时间超平面，并将实体映射到时间切片上，以反映动态的时间特征。

*   **基于语义匹配的时间扩展**。这些方法主要在DistMult[23](https://arxiv.org/html/2606.27651#bib.bib23)的基础上改进。例如，TA-DistMult[7](https://arxiv.org/html/2606.27651#bib.bib7)将时间信息融入到匹配过程中。DE-SimplE[8](https://arxiv.org/html/2606.27651#bib.bib8)生成历时性实体嵌入来捕获随时间演化的特征，在各种关系类型上都取得了良好的性能。

尽管现有的TKGE方法取得了进展，但仍然存在两个关键的缺点。首先，大多数模型采用简单的时间编码策略，无法捕获细粒度的时间依赖性。其次，很少有算法能够有效地拟合动态时间场景中的复杂多关系映射（1-N, N-1, N-N）。这些未解决的瓶颈促使我们构建一个具有更强时间感知和关系建模能力的鲁棒时间嵌入模型。

## 3 方法

本节详细介绍TeRoR的具体方法，这是一种基于复数向量空间内时间旋转机制的新型知识图谱嵌入模型。作为经典时间嵌入模型TeRo的改进版本，TeRoR旨在解决基线模型的两个关键固有问题。具体来说，TeRo存在时间特征利用不足和对复杂的多种关系模式（如一对多、多对一和多对多交互）建模能力弱的问题。为了逻辑清晰，我们首先回顾TeRo的基本原理和潜在缺陷，然后详细阐述TeRoR的架构设计。

### 3.1 TeRo[21](https://arxiv.org/html/2606.27651#bib.bib21)

TeRo通过在复数域中旋转实体嵌入来实现时间演化建模，这有利于时间依赖事实四元组的嵌入表示和逻辑推理。在本工作中，E、R和T分别被定义为实体集、关系集和时间戳集。时序知识图谱由许多形如(s,r,o,t)的四元组构成，其中s,o∈E对应主语和宾语实体，r∈R表示关系语义，t是标记某个事实发生的时间戳。每个有效的四元组(s,r,o,t)被分配一个单独的时间步τ∈T。在TeRo中，时间演化的实体嵌入是通过对静态实体向量应用时间旋转操作生成的。相应的变换函数公式化如下：

`s_t = s ∘ τ,  o_t = o ∘ τ` (1)

其中∘表示两个复数向量之间的埃尔米特点积。然而，这种时间旋转范式只能捕获有限的时间特征，导致时间信息感知不完整。

对于任何正四元组`(s,r,o,t) ∈ Q^+`，TeRo将关系嵌入r视为连接时间感知主语嵌入s_t和共轭时间感知宾语嵌入`\bar{o_t}`的平移向量。这里，r∈R，Q^+表示所有有效正四元组的集合。TeRo采用的评分函数定义为：

`score(s,r,o,t)_{TeRo} = || s_t + r - \bar{o_t} ||` (2)

尽管其时间旋转设计有效，但上述评分函数仍然存在明显的局限性。它无法精确拟合和区分多样的复杂关系映射，这限制了它对现实世界TKGs中普遍存在的一对多、多对一和多对多关系场景的建模能力。

### 3.2 TeRoR

为了解决TeRo的上述两个缺陷，我们提出了一种改进的时间嵌入模型TeRoR。

#### 3.2.1 时间信息的表示

与TeRo中采用的共享单一时间步不同，TeRoR将时间表示解耦为两个独立的相位旋转，分别分配给主语s和宾语o，以加强时间演化。对于任意时间戳t，使用两个独立的时间变量τ_s和τ_o来实现主语和宾语实体的异步旋转。时间演化公式重新定义为：

`s_t = s ∘ τ_s,  o_t = o ∘ τ_o` (3)

其中∘代表复数向量的埃尔米特点积。根据欧拉公式`e^{iθ} = cosθ + i sinθ`，单位复数可以被几何解释为复平面上的旋转变换。为了满足这一几何约束，时间相关向量τ_s, τ_o ∈ C^d中的每个元素都被限制为具有单位模量，即 `|τ_{s,j}|=1` 和 `|τ_{o,j}|=1`。从数学上讲，每个元素τ_{s,j}可以表示为 `e^{iθ_{s,j}}`，对应于一个计数器。