面向边缘计算流量智能的时空图Transformer

# 面向边缘计算流量智能的时空图Transformer

来源: https://arxiv.org/html/2608.04075
Laha Ale, , Letian Lin, Na Cao, Zheng Ma, and Peng Yu,L\. Ale 就职于西南交通大学计算机与人工智能学院，中国成都 \(电子邮件:laha\_ale@swjtu\.edu\.cn\)\.L\. Ale, L\. Lin and N\. Cao 就职于西南交大-利兹联合学院，西南交通大学，中国成都 \(电子邮件: \{L\.Ale, sc23ll, sc23n2c\}@leeds\.ac\.uk\)\.Z\. Ma 就职于信息编码与传输重点实验室，西南交通大学，中国成都 \(电子邮件: zma@home\.swjtu\.edu\.cn\)\.P\. Yu 就职于网络与交换技术国家重点实验室，北京邮电大学，中国北京 \(电子邮件:yupeng@bupt\.edu\.cn\)\.*通讯作者: Peng Yu \(电子邮件: yupeng@bupt\.edu\.cn\)*

###### 摘要

准确的流量预测对于边缘计算中的主动资源管理至关重要，因为服务需求在空间和时间上动态演变。在实际蜂窝边缘系统中，流量表现出相邻服务区域之间强烈的空间相关性，以及由用户移动性和应用行为驱动的长时程时间依赖。现有的循环预测方法能够捕捉短期动态，但在非平稳条件下建模长时间跨度的流量演变时往往存在困难。为应对这一挑战，我们提出了一种时空图Transformer框架，联合建模空间交互和时间依赖，用于边缘计算中的流量预测。该框架利用图神经网络捕捉服务区域之间的空间相关性，并利用基于Transformer的自注意力从历史流量观测中学习长时程时间模式。通过将空间表示学习与时间推理解耦，所提出的方法为大规模时空流量建模提供了一种有效机制。在真实蜂窝网络数据集上进行的大量实验表明，所提出的图Transformer在多个预测时间尺度上始终优于基于循环图结构的基线模型，包括GCN-RNN、GCN-LSTM和GCN-GRU模型。与反应式管理策略相比，由此产生的预测能够实现更有效的主动资源供应并降低过载风险。这些结果凸显了图增强注意力机制在构建智能自适应边缘计算系统方面的潜力。

###### 关键词:

边缘计算、流量、图神经网络

## I引言

边缘计算已成为支持时延敏感型和带宽密集型应用的关键范式，通过将计算、存储和智能推向靠近最终用户和设备的位置\[1 (https://arxiv.org/html/2608.04075#bib.bib1),2 (https://arxiv.org/html/2608.04075#bib.bib2),3 (https://arxiv.org/html/2608.04075#bib.bib3)\]。通过减少对集中式云基础设施的依赖，边缘计算能够实现沉浸式媒体、智能交通、工业自动化和移动增强现实等实时服务\[4 (https://arxiv.org/html/2608.04075#bib.bib4),5 (https://arxiv.org/html/2608.04075#bib.bib5)\]。然而，这些系统的有效性不仅取决于边缘资源的可用性，还取决于能否跨地理分布的服务区域主动地调配这些资源。由于边缘服务器通常受限于有限且异构的资源约束\[5 (https://arxiv.org/html/2608.04075#bib.bib5)\]，预见未来服务需求已成为实现可靠高效边缘计算的基本要求。

近年来，AI原生网络和6G系统的进展凸显了*流量智能*日益增长的重要性，其目标是理解、预测并利用时空流量动态来实现主动网络管理。无线流量在相邻区域之间表现出强烈的空间相关性，以及由用户移动性、应用行为、日常规律和大规模事件驱动的复杂时间依赖\[6 (https://arxiv.org/html/2608.04075#bib.bib6)\]。因此，仅基于当前观测的反应式资源管理策略往往导致资源利用不足、服务过载和服务质量下降\[7 (https://arxiv.org/html/2608.04075#bib.bib7),8 (https://arxiv.org/html/2608.04075#bib.bib8),9 (https://arxiv.org/html/2608.04075#bib.bib9)\]。因此，准确的流量智能是主动资源供应、服务部署、任务调度和边缘编排的关键使能者\[10 (https://arxiv.org/html/2608.04075#bib.bib10)\]。

为了提高流量预测精度，近期的研究探索了基于基础模型和分布式学习的范式。TIDES\[11 (https://arxiv.org/html/2608.04075#bib.bib11)\]引入了一种流量智能框架，利用大语言模型和时空对齐机制来捕捉跨城市区域的异构无线流量模式。同时，Zhang*等人*\[12 (https://arxiv.org/html/2608.04075#bib.bib12)\]提出了一种联邦流量预测框架，结合梯度压缩和相关驱动的聚合来建模空间依赖，同时减少通信开销。这些研究表明，利用空间相关性对于未来无线和边缘系统中的可扩展流量智能至关重要。然而，尽管在空间建模方面取得了重大进展，在高度动态和非平稳流量序列中捕捉长时程时间依赖的挑战仍未得到充分解决\[13 (https://arxiv.org/html/2608.04075#bib.bib13)\]。

边缘计算中的流量智能本质上是一个时空学习问题。从空间角度看，一个服务区域的流量需求受到相邻区域的影响，这些影响通过地理邻近性、用户移动性和共享网络条件产生\[14 (https://arxiv.org/html/2608.04075#bib.bib14),15 (https://arxiv.org/html/2608.04075#bib.bib15)\]。从时间角度看，流量既表现出短期波动，也表现出长期模式，包括昼夜周期、每周规律、季节趋势和突发性事件\[16 (https://arxiv.org/html/2608.04075#bib.bib16),17 (https://arxiv.org/html/2608.04075#bib.bib17)\]。传统的循环神经网络，包括长短期记忆（LSTM）和门控循环单元（GRU）架构\[18 (https://arxiv.org/html/2608.04075#bib.bib18),19 (https://arxiv.org/html/2608.04075#bib.bib19),20 (https://arxiv.org/html/2608.04075#bib.bib20)\]，已被广泛用于时间预测。尽管这些模型对短期预测有效，但它们依赖序列化的隐状态传播，在非平稳流量条件下往往难以保留长时程时间依赖\[21 (https://arxiv.org/html/2608.04075#bib.bib21)\]。

基于Transformer的模型\[22 (https://arxiv.org/html/2608.04075#bib.bib22),23 (https://arxiv.org/html/2608.04075#bib.bib23)\]通过自注意力机制提供了一种极具吸引力的替代方案。与将历史观测压缩为递归更新的隐状态不同，Transformer直接建模不同时间步之间的交互，并选择性地关注有信息量的历史模式。这一能力对流量智能尤其有价值，因为未来流量需求可能同时依赖于近期波动、长期周期性行为和不规则需求转变。近期的研究已在无线和城市环境中探索了用于时空流量预测的Transformer架构\[24 (https://arxiv.org/html/2608.04075#bib.bib24),25 (https://arxiv.org/html/2608.04075#bib.bib25),26 (https://arxiv.org/html/2608.04075#bib.bib26)\]。然而，将基于图的空间建模与基于Transformer的时间推理相结合用于边缘计算中的流量智能，仍然相对未被充分探索，特别是在以主动资源管理有效性进行评估时。

为解决这一挑战，本文提出了一种用于边缘计算流量智能的时空图Transformer框架。该框架将空间和时间学习解耦：图神经网络利用地理和自适应邻接关系跨边缘服务区域聚合流量信息，而Transformer模块在所得的空间表示中捕捉长时程时间依赖。这种组合支持用于主动边缘资源管理的多时间尺度流量预测。

我们在大规模真实蜂窝网络数据集上评估了所提出的图卷积Transformer（GCN-Transformer）模型\[27 (https://arxiv.org/html/2608.04075#bib.bib27),28 (https://arxiv.org/html/2608.04075#bib.bib28)\]，并在相同设置下与GCN-RNN、GCN-LSTM和GCN-GRU基线进行比较。结果表明，所提出的模型提供了更准确和稳定的预测，尤其是在较长的时间尺度和快速流量变化期间，从而比反应式管理策略实现更有效的主动供应和更低的过载风险。

本文的主要贡献总结如下：

- •我们将时空流量智能阐述为边缘计算中主动资源管理的基本能力，并确定长时程时间推理是动态流量环境中的关键挑战。
- •我们提出了一种时空图Transformer框架，将用于空间依赖建模的图神经网络与用于多时间尺度流量预测的基于Transformer的时间推理相结合。
- •我们在真实蜂窝网络数据集上进行了广泛评估，并证明所提出的框架在预测准确性、预测稳定性和对主动资源供应的支持方面始终优于基于循环图的现有方法。

## II系统模型

我们考虑一个部署在大规模蜂窝网络上的边缘计算系统，如图1 (https://arxiv.org/html/2608.04075#S2.F1)所示。边缘服务器为地理分布的用户提供计算和存储资源。服务区域被划分为多个边缘服务区域，每个区域由一个边缘服务器或边缘控制器管理，为附近设备调配资源。系统的目标是预测每个区域未来的资源需求，并利用这些预测支持主动资源供应，从而减少过载和服务降级。

参照图注图1：边缘计算中的主动资源供应流量智能。### II-A空间图模型

设V={1,2,...,N}\mathcal{V}=\{1,2,\dots,N\}表示边缘服务区域的集合。每个节点i∈Vi\in\mathcal{V}代表一组地理上邻近的基站或接入点。区域之间的空间关系由加权图G=(V,E)\mathcal{G}=(\mathcal{V},\mathcal{E})表示，其中E⊆V×V\mathcal{E}\subseteq\mathcal{V}\times\mathcal{V}是边的集合。

一条边(i,j)∈E(i,j)\in\mathcal{E}表示区域ii和jj在空间上相关，例如因为它们地理上接近、具有重叠的服务覆盖，或受相似的用户移动模式影响。每条边被赋予一个非负权重wijw_{ij}，用于度量这种关系的强度。由此产生的加权邻接矩阵记为W∈RN×N\mathbf{W}\in\mathbb{R}^{N\times N}，并作为空间需求建模的图结构。

### II-B流量需求表示

时间被划分为等长的区间，用t=1,2,...,Tt=1,2,\dots,T索引。设xi(t)x_{i}(t)表示在第tt个区间内边缘服务区域ii观测到的聚合资源需求。根据应用场景，xi(t)x_{i}(t)可以表示区域ii内的流量量、活动服务会话数、计算请求数或其他服务需求指标。

在时间tt的全局需求状态表示为

x(t)=[x1(t),x2(t),...,xN(t)]⊤∈RN.\mathbf{x}(t)=[x_{1}(t),x_{2}(t),\dots,x_{N}(t)]^{\top}\in\mathbb{R}^{N}.(1)给定长度为LL的历史观测窗口，输入需求序列为

Xt={x(t−L+1),x(t−L+2),...,x(t)}.\mathcal{X}_{t}=\{\mathbf{x}(t-L+1),\mathbf{x}(t-L+2),\dots,\mathbf{x}(t)\}.(2)预测任务是从Xt\mathcal{X}_{t}和空间图G\mathcal{G}推断一个或多个预测时间尺度h≥1h\geq 1的未来需求状态x^(t+h)\hat{\mathbf{x}}(t+h)。

### II-C空间特征聚合

由于地理邻近性、重叠覆盖和用户移动性，相邻边缘区域的需求通常相互关联。因此，在对时间演变进行建模之前，系统首先在图上进行空间信息聚合。

在每个时间区间tt，设X(t)∈RN×din\mathbf{X}(t)\in\mathbb{R}^{N\times d_{\mathrm{in}}}表示节点特征矩阵，其中每一行包含一个边缘服务区域的与需求相关的特征，dind_{\mathrm{in}}是输入特征维度。空间聚合根据加权图结构在相邻节点之间传播信息，并产生

H(t)=A(X(t),G),\mathbf{H}(t)=\mathcal{A}\\!\left(\mathbf{X}(t),\mathcal{G}\right),(3)其中H(t)∈RN×d\mathbf{H}(t)\in\mathbb{R}^{N\times d}是空间上下文化表示，A(⋅)\mathcal{A}(\cdot)表示基于图的聚合算子。H(t)\mathbf{H}(t)的第ii行，记为hi(t)\mathbf{h}_{i}(t)，包含区域ii的空间特征表示。A(⋅)\mathcal{A}(\cdot)的具体参数化在第IV节 (https://arxiv.org/html/2608.04075#S4)中描述。

### II-D基于Transformer记忆的时间建模

空间聚合之后，每个区域的时间演变使用Transformer编码器进行建模，该编码器对历史流量观测进行时间推理。对于区域ii，空间表示序列

{hi(t−L+1),hi(t−L+2),...,hi(t)}\{\mathbf{h}_{i}(t-L+1),\mathbf{h}_{i}(t-L+2),\dots,\mathbf{h}_{i}(t)\}(4)被输入到Transformer编码器中。编码器应用自注意力来学习历史时间步之间的依赖关系，使模型能够同时捕捉短期流量变化和长时程时间模式。

缩放点积注意力操作定义为

Attention(Q,K,V)=softmax(QK⊤d)V,\text{Attention}(\mathbf{Q},\mathbf{K},\mathbf{V})=\text{softmax}\\!\left(\frac{\mathbf{Q}\mathbf{K}^{\top}}{\sqrt{d}}\right)\mathbf{V},(5)其中Q\mathbf{Q}、K\mathbf{K}和V\mathbf{V}分别是输入序列的查询、键和值投影。通过对历史窗口进行注意力计算，Transformer为多时间尺度流量预测提供了上下文感知的时间表示。

### II-E流量预测和主动资源供应

Transformer模块的输出被映射为所有边缘服务区域的未来流量预测。这些预测构成了边缘控制器可用的流量智能，并随后用于支持主动资源供应决策。通过在未来的流量需求实现之前对其进行预判，控制器可以分配计算、存储资源及其他资源。