基于时间增强符号图神经网络的动态链接预测

arXiv cs.LG 论文

摘要

本文提出了一种面向符号图神经网络的模块化时间增强框架,通过历史上下文集成模块(HCIM)结合LSTM和多头时间注意力机制整合历史上下文,在真实世界的时间符号网络上进行动态链接预测时取得了持续改进。

arXiv:2605.26290v1 公告类型:新文章 摘要:时间符号网络(TSN)模拟了合作与对抗关系的时间演化,这些关系出现在社交媒体分析、信任与声誉系统以及金融交易网络等应用中。虽然图神经网络(GNN)在静态或无符号链接预测中表现良好,但由于符号关系的相互作用、演化的结构以及平衡理论约束,在时间符号图中进行有效学习仍然具有挑战性。为解决这一问题,我们提出了一种面向符号GNN的\emph{模块化}时间增强框架,将历史上下文集成到原本静态的架构中。该框架引入了一个历史上下文集成模块(HCIM),该模块结合了可学习的近因感知时间加权、基于LSTM的嵌入轨迹建模以及多头时间注意力,以捕捉短期和长期的符号交互动态。历史信息通过全局或节点自适应加权与当前节点表示融合,使得与架构无关的框架能够适应异质的时间行为。我们在自解释符号图变换器(SE-SGformer)上实例化了该方法,在保持可解释性的同时扩展了时间感知能力。在真实世界和合成的时间符号网络(包括Bitcoin OTC、Bitcoin Alpha、Reddit和小世界网络模型)上的实验表明,与静态基线相比,取得了一致且统计上显著的改进。
查看原文
查看缓存全文

缓存时间: 2026/05/27 09:07

# 基于时序增强符号图神经网络的动态链接预测
来源:https://arxiv.org/html/2605.26290
###### 摘要

时序符号网络建模了合作与对抗关系随时间演化的过程,这些关系出现在社交媒体分析、信任与声誉系统以及金融交易网络等应用中。尽管图神经网络在静态或未署名链接预测中表现良好,但由于符号关系、演化结构和平衡理论约束的相互作用,在时序符号图中进行有效学习仍然具有挑战性。为了填补这一空白,我们提出了一种针对符号图神经网络的*模块化*时序增强框架,该框架将历史上下文整合到原本静态的架构中。该框架引入了一个历史上下文整合模块 \(HCIM\),该模块结合了可学习的近期感知时间加权、基于LSTM的嵌入轨迹建模以及多头时序注意力机制,以捕捉短期和长期的符号交互动态。历史信息通过全局或节点自适应加权与当前节点表示融合,使得架构无关的框架能够适应异质的时序行为。我们在自解释符号图变换器 \(SE-SGformer\) 上实例化了该方法,在保持可解释性的同时扩展了其时序感知能力。在真实世界和合成TSN(包括Bitcoin OTC、Bitcoin Alpha、Reddit和小世界网络模型)上的实验表明,与静态基线相比,该方法实现了一致且统计显著的改进。

## I 引言

许多现实世界的网络系统运行在交互随时间演化的环境中。社交平台、信任与声誉系统以及金融交易网络随着实体之间建立、加强或断绝关系而不断变化。因此,对此类系统进行建模需要既能捕捉连通性,又能捕捉交互模式如何响应行为和系统动态而演化的表示。这自然导致了*时序图*的提出,其中网络结构和交互被视为随时间变化而非静态。

近来时序图神经网络的进展显著改进了对此类演化系统的建模。诸如时序图网络 \(TGNs\)\[1 (https://arxiv.org/html/2605.26290#bib.bib1)\], DyRep\[2 (https://arxiv.org/html/2605.26290#bib.bib2)\] 和 JODIE\[3 (https://arxiv.org/html/2605.26290#bib.bib3)\] 等方法显式地融入了时序依赖,并在动态链接预测任务中相对于静态方法展现了显著优势。然而,这些模型几乎完全是为*无符号*时序图开发的,其中边仅编码交互的存在或强度。这种关注点没有考虑到*符号*关系引入的丰富语义,即边携带正或负极性,对应于信任与不信任、认可与反对、或合作与对抗。

符号交互是理解许多现实世界网络动态的基础。在加密货币信任网络中,例如Bitcoin OTC和Bitcoin Alpha,正边反映信任,而负边通常指示欺诈行为或风险交互\[4 (https://arxiv.org/html/2605.26290#bib.bib4),5 (https://arxiv.org/html/2605.26290#bib.bib5)\]。类似地,Reddit超链接网络通过捕捉社区之间的支持或矛盾关系的符号引用编码编辑立场\[3 (https://arxiv.org/html/2605.26290#bib.bib3),6 (https://arxiv.org/html/2605.26290#bib.bib6)\]。因此,准确预测未来链接是否会发生以及其极性(称为*符号链接预测*)对于从欺诈检测到社区管理和推荐系统等各种应用至关重要。

### I-A 时序符号图挑战

经典符号网络分析依赖于结构平衡理论和模体分析,通过符号三元闭包结构解释网络稳定性和层级结构\[7 (https://arxiv.org/html/2605.26290#bib.bib7),8 (https://arxiv.org/html/2605.26290#bib.bib8)\]。在这些基础上,最近的符号图神经网络 \(SGNNs\),特别是自解释符号图变换器 \(SE-SGformer\)\[9 (https://arxiv.org/html/2605.26290#bib.bib9)\],通过多跳符号邻域和结构注意力偏差在保持可解释性的同时实现了优异的静态符号链接预测性能。

尽管取得了这些进展,大多数SGNN仍然将网络视为静态快照,要么聚合跨时间的交互,要么完全忽略时序演化。显式的时序建模在符号图学习中仍然基本缺失,限制了其在动态环境(如加密货币信任网络和在线社交平台)中的适用性,在这些环境中历史交互的重要性随时间演变。因此,将时序动态整合到符号图学习中引入了一些现有方法未能充分解决的挑战:

- • 时序信息衰减:历史符号交互的影响随时间自然减弱,需要系统机制来权衡近期与较旧的证据。静态SGNN缺乏自适应的时间衰减模型。
- • 演化的平衡结构:结构平衡模式并非固定不变,即网络增长和变化时,局部符号模体演化,需要持续重新校准基于平衡的表示。
- • 异质时序动态:不同节点和网络区域表现出不同的时序行为。高度中心或影响力强的节点可能保持长期相关性,而外围节点可能表现出快速衰减的影响力,这激励自适应而非统一的时间加权\[10 (https://arxiv.org/html/2605.26290#bib.bib10)\]。
- • 时序复杂性下的可解释性:虽然可解释性在信任关键应用中至关重要,但融入时间机制通常会降低透明度。现有的时序注意力模型对于时间因素如何影响符号预测提供的见解有限。

### I-B 主要贡献

为了解决这些限制,我们提出了一种时序增强框架,该框架扩展静态SGNN,整合历史上下文,同时保留其结构基础与可解释性。提出的方法并非引入新的时序架构,而是通过模块化时序组件增强现有SGNN。本工作的主要贡献总结如下:

- • 历史上下文整合模块 \(HCIM\):我们引入了一个系统的三阶段时序框架,结合了可学习的近期感知加权、基于LSTM的嵌入轨迹建模和多头时序注意力。如图1 (https://arxiv.org/html/2605.26290#S1.F1) 所示,该设计实现了对历史符号交互影响的细粒度、数据驱动控制。
- • 双时序加权策略:我们提出了两种互补的时序信息整合机制:(i) 合成网络中同质时序模式的全局参数化权重,以及 (ii) 适应现实世界数据中异质时序动态的节点自适应多层感知器 \(MLP\) 加权。
- • 可解释的时序整合:该框架通过显式学习参数用于近期偏差和时序组合权重,从而保持模型可解释性,使实践者能够理解和验证符号图学习应用中的时序决策因素。
- • 全面的实证验证:在真实世界和合成时序符号网络 \(TSNs\) 上的广泛实验表明,相对于静态基线有一致且统计显著的改进,包括在Bitcoin OTC上AUC相对提升3.79%,在Bitcoin Alpha上提升5.76%,以及在Barabási-Albert \(BA\) 和Watts-Strogatz \(WS\) 网络上提升超过13%,相应的错误率降低高达41.77%。

参见图注图1:我们提出的将历史上下文整合到SGNN模型的模块。该框架具有架构无关性,可以与广泛的SGNN集成。我们使用SE-SGformer验证其有效性,因为其强大的性能和可解释性,同时强调该方法可推广到该特定骨干网络之外。

### I-C 意义、影响与技术创新

本工作通过在保留现有SGNN的结构基础和可解释性的同时引入建模演化符号交互的机制,填补了时序图学习与SGNN之间的关键空白。与之前要么忽略时序动态要么完全重新设计符号架构的方法不同,所提出的框架通过显式的时序感知扩展了静态SGNN,以在动态和对抗性环境中实现准确的符号链接预测。

核心技术创新是提出的HCIM,这是一个模块化组件,将时序信息注入符号图表示,而不修改骨干模型的符号结构编码。HCIM引入了两种时序融合策略,即*全局*和*节点自适应*加权,以捕捉合成网络中的同质时序行为和现实世界系统中的异质动态。时序影响通过显式、可学习的参数(包括近期偏差和融合系数)进行建模,使得能够事后分析历史上下文如何贡献于符号预测。

从应用角度来看,所提出的框架推进了诸如金融欺诈检测和在线社区管理等领域中的时序符号链接预测,在这些领域理解合作与对抗关系的演化至关重要。通过建立在平衡理论\[7 (https://arxiv.org/html/2605.26290#bib.bib7)\] 和地位理论\[11 (https://arxiv.org/html/2605.26290#bib.bib11)\] 之上,同时将SGNN扩展到动态设置,本工作为时序符号图学习建立了一个可扩展、可解释且架构无关的基础。

### I-D 论文组织

本文其余部分组织如下。第II节 (https://arxiv.org/html/2605.26290#S2) 回顾了符号与时序图学习的相关研究。第III节 (https://arxiv.org/html/2605.26290#S3) 介绍了时序符号图的符号与数学预备知识以及HCIM公式。第IV节 (https://arxiv.org/html/2605.26290#S4) 介绍了实验设置和评估协议。第V节 (https://arxiv.org/html/2605.26290#S5) 展示了实证结果以及分析见解和实际意义。第VI节 (https://arxiv.org/html/2605.26290#S6) 概述了局限性和未来研究方向。最后,第VII节 (https://arxiv.org/html/2605.26290#S7) 总结全文。

## II 相关工作

关于时序符号图学习的研究涵盖动态GNN、基于注意力的时序建模、符号网络表示学习以及时序衰减机制\[12 (https://arxiv.org/html/2605.26290#bib.bib12)\]。本节回顾基础文献,并将我们的贡献置于更广泛的研究格局中。

### II-A 符号网络的理论基础

符号网络的演化由成熟的社会理论指导,这些理论支撑着现代计算方法。*结构平衡理论* \(\[13 (https://arxiv.org/html/2605.26290#bib.bib13),7 (https://arxiv.org/html/2605.26290#bib.bib7)\]\) 指出,当循环的边符号乘积为正时,该循环是稳定的,反映了“敌人的敌人是朋友”的社会原则。这一概念直接推动了诸如SE-SGformer等SGNN中使用的符号随机游走编码和结构注意力偏差。

作为平衡理论的补充,*地位理论*\[11 (https://arxiv.org/html/2605.26290#bib.bib11)\] 假设节点具有潜在的地位值,边符号由地位差异决定。该框架在有向符号网络中通常提供更强的解释力。SE-SGformer通过基于中心性的编码将这些层级原则融入,该编码将注意力偏向于与地位一致的符号关系,使模型能够学习驱动关系形成的隐式节点层级。

### II-B 动态GNN与循环架构

早期关于时序GNN的研究通过循环和序列架构为建模演化图拓扑奠定了基础。E-LSTM-D引入了编码器-LSTM-解码器框架用于端到端动态链接预测\[14 (https://arxiv.org/html/2605.26290#bib.bib14)\],而GC-LSTM将图卷积操作直接整合到LSTM单元中,以更好地捕捉跨图快照的结构演化\[15 (https://arxiv.org/html/2605.26290#bib.bib15)\]。这些开创性工作证明了图卷积与序列建模结合的有效性。

后续工作通过复杂的时间嵌入策略扩展了这一范式。例如,dynnode2vec将历史初始化纳入基于node2vec的嵌入,以改善跨快照的时间一致性\[16 (https://arxiv.org/html/2605.26290#bib.bib16)\],而LSTM历史追踪方法通过循环记忆机制显式建模嵌入演化\[17 (https://arxiv.org/html/2605.26290#bib.bib17)\]。Bi-DNE通过引入能够联合建模微观和宏观层面网络演化模式的双层架构,进一步推进了时序表示学习\[18 (https://arxiv.org/html/2605.26290#bib.bib18)\]。更近期的JODIE展示了基于轨迹的嵌入演化在时序交互网络中的有效性,表明从时序依赖中导出的动态表示能显著提升预测性能\[3 (https://arxiv.org/html/2605.26290#bib.bib3)\]。

### II-C 基于注意力的时序建模与近期学习

注意力机制和时间感知加权策略已成为现代时序图学习框架的核心组成部分。自注意力架构在捕捉细粒度时序依赖和选择性强调信息性历史交互方面特别有效。TGAT率先在动态图上使用时序编码与注意力进行归纳学习,为基于注意力的时序图架构奠定了基石\[19 (https://arxiv.org/html/2605.26290#bib.bib19)\]。TGN通过将消息传递与记忆模块整合用于连续时间图表示学习,进一步推进了这一方向\[1 (https://arxiv.org/html/2605.26290#bib.bib1)\],而DySAT展示了通过双自注意力机制联合建模结构和时序依赖的有效性\[20 (https://arxiv.org/html/2605.26290#bib.bib20)\]。近期的努力如L-STEP引入了可学习的时空位置编码,进一步细化基于注意力的时序建模\[21 (https://arxiv.org/html/2605.26290#bib.bib21)\]。

作为注意力方法的补充,一些研究探索了显式的时序衰减和近期感知加权机制,以模拟历史交互渐减的相关性。TPNet引入了一个可学习的时间衰减机制,赋予近期交互更大的重要性,揭示了自适应时间加权在链接预测任务中的有效性\[22 (https:

相似文章

时间增强图注意力网络用于可供性分类

Hugging Face Daily Papers

EEG-tGAT是一种时间增强的图注意力网络,通过融合时间注意力和dropout机制来改进交互序列的可供性分类。该模型在GATv2基础上进行了增强,适用于时间维度语义不均匀的序列数据。

使用时间段模型进行预测和控制

OpenAI Blog

OpenAI 推出了一种使用深度生成模型在时间段上学习复杂非线性系统动力学的方法,能够实现稳定的长期预测和可微分的轨迹优化以进行基于模型的控制。

异构时间分辨率下脉冲神经网络的联邦学习

arXiv cs.LG

本文提出了一种针对脉冲神经网络的联邦学习框架,解决了边缘设备上异构时间分辨率的挑战,能够在处理时间不匹配的同时实现无需共享原始数据的协作训练。

用于交通预测的全局-局部图注意力网络

arXiv cs.AI

提出了一种具有成对编码和基于事件的邻接矩阵的全局-局部图注意力网络(GLGAT)用于交通预测,有效捕捉时空相关性,并在真实数据集上取得了有竞争力的性能。