GNBAN：面向大规模实体集长期预测的图神经基注意力网络

# GNBAN：面向大规模实体集的长期预测的图神经基注意力网络
Source: https://arxiv.org/html/2606.27863
Janak M\. Patel Phi Labs, Quantiphi Marlborough, MA 01752, USA &Anirudh Deodhar Phi Labs, Quantiphi Marlborough, MA 01752, USA &Dagnachew Birru Phi Labs, Quantiphi Marlborough, MA 01752, USA

###### 摘要

在零售层级的最底层进行需求预测，需要同时预测成千上万个跨产品、门店和区域的相关长期时间序列。这对现代预测系统构成了一个根本性挑战：模型必须能在庞大的零售目录上扩展，同时捕捉共享的需求动态，并生成从业者可以理解和信任的预测。经典统计方法需要为每个序列维护单独的模型，使得在生产规模下难以管理。深度自回归架构则在联合预测状态增长到数万维度时陷入困境。最近，基于图的深度预测架构在建模实体和时间之间的依赖关系方面展现出了潜力。然而，许多现有方法仍然难以扩展到长期预测，并且通常产生不透明的预测，对潜在需求模式提供的洞察有限。为了解决这些挑战，我们提出了GNBAN（图神经基注意力网络），这是一种端到端的预测架构，将异构图表示学习与可解释的基分解预测头相结合。零售数据直接表示为从底层关系数据库模式派生的异构图，使得单个模型能够在整个目录上进行学习。GNBAN不直接预测预测范围，而是将每个预测分解为三个语义有意义的组件：趋势、季节和通用。关键创新在于*每个基的注意力机制*，其中每个基函数维护自己的可学习查询，并独立地从预测实体的历史邻域中检索信息。这使得不同的基能够专门化到不同的时间模式，同时保持可解释性。我们在两个大规模零售预测基准（M5 Walmart和Favorita Grocery Sales）上，在匹配的实验协议下评估GNBAN。与基准图预测模型相比，GNBAN在两个数据集上的销量加权WRMSSE大约改进了4-5%。定性分析进一步表明，学习到的分解产生了可解释的预测，揭示了趋势、季节和残差需求驱动因素，无需事后解释方法。这些结果表明，可扩展的关系预测和可解释的预测分解可以在统一的基于图的预测框架内同时实现。

## 1 引言

在商品层级的最底层进行零售需求预测，即需要为每个门店的每个SKU预测未来多周的销量，是大规模时间序列预测中最具挑战性的问题之一。现代零售商，如Corporación Favorita和Walmart，必须在单个操作流程中同时预测成千上万个相关的产品-门店序列[8 (https://arxiv.org/html/2606.27863#bib.bib25),3 (https://arxiv.org/html/2606.27863#bib.bib31)]。这些预测系统必须满足四个相互竞争的要求：它们必须能在庞大的目录上扩展，捕捉跨产品和门店的共享需求动态，支持长期预测，并且保持足够的可解释性以支持操作决策。

现有的预测范式只满足了这些要求的子集。经典的统计方法，如误差-趋势-季节性(ETS)和ARIMA，提供了可解释的预测，但通常需要为每个序列维护单独的模型，使得在目录规模下部署和监控变得困难[5 (https://arxiv.org/html/2606.27863#bib.bib22)]。深度自回归架构，如DeepAR和Temporal Fusion Transformers，用单个全局网络取代了数千个局部模型[12 (https://arxiv.org/html/2606.27863#bib.bib7),6 (https://arxiv.org/html/2606.27863#bib.bib10)]，实现了跨序列的参数共享。然而，在预测大型零售面板时，它们并没有明确建模实体（如产品、门店和类别）之间的关系依赖。梯度提升树方法在M5竞赛中占据主导地位[8 (https://arxiv.org/html/2606.27863#bib.bib25)]，通过广泛的特征工程提高了可扩展性和预测准确性，但通常将时间和跨实体关系扁平化为表格表示，限制了其自然捕捉零售生态系统内交互的能力。

更近期的研究，基于图的预测方法和关系深度学习[4 (https://arxiv.org/html/2606.27863#bib.bib2),11 (https://arxiv.org/html/2606.27863#bib.bib1)]已成为大规模零售预测的一个有前景的方向。通过将产品、门店、类别和时间事件表示为异构图中的节点，这些方法通过消息传递自然地捕捉跨实体依赖关系。然而，现有的图预测架构通常将简单的多层感知器预测头附加到学习到的图嵌入上，直接将潜在表示映射到预测向量。虽然对表示学习有效，但这些预测头仍然不适合长期零售预测：它们通常产生不透明的预测，对趋势或季节结构提供的洞察很少，并且随着预测范围的延长而性能下降。

与此同时，长期预测研究表明，基于分解的架构通过显式建模低频结构（如趋势和季节性），可以显著提高预测稳定性和可解释性[10 (https://arxiv.org/html/2606.27863#bib.bib5),2 (https://arxiv.org/html/2606.27863#bib.bib6),16 (https://arxiv.org/html/2606.27863#bib.bib13)]。然而，这些方法主要设计用于独立时间序列，并不利用大型零售系统中存在的丰富关系结构。

这项工作总结了可扩展的基于图的预测与准确、可解释的长期预测之间的差距。我们提出了GNBAN（图神经基注意力网络），这是一种全局预测架构，将基于图的表示学习与可解释的基风格预测分解相结合。GNBAN将异构图形神经网络骨干与基注意力预测头耦合，该预测头将每个预测分解为三个语义有意义的组件：平滑的趋势组件、周期性的季节组件和残差的通用组件。每个组件通过实体历史邻域上的专用可学习注意力查询生成，使模型能够捕捉共享的需求动态，同时提高长期预测性能并揭示预测的底层结构。单个训练好的GNBAN模型服务于整个零售目录，消除了对数千个独立维护的预测模型的需求，同时在统一的端到端框架内支持可扩展预测、可解释的预测分解和长期预测。我们的贡献总结如下：

1. 1.我们引入了GNBAN，一种用于大规模零售需求预测的全局预测架构，将基于图的表示学习与基风格预测分解相结合。
2. 2.我们提出了一种基注意力预测头，将预测分解为可解释的趋势、季节和残差组件，同时提高长期预测性能。
3. 3.我们证明，单个训练好的模型可以同时在大规模零售预测基准上实现可扩展预测、提高的预测准确性和可解释的预测分解。

## 2 相关工作

大规模零售需求预测。零售预测通过M系列预测竞赛得到了广泛研究，特别是M5，该竞赛专注于跨数千个产品-门店组合的层级零售需求预测[8 (https://arxiv.org/html/2606.27863#bib.bib25),7 (https://arxiv.org/html/2606.27863#bib.bib26)]。经典的统计方法，如ARIMA、ETS和Theta，由于其简单性和可解释性，在单个时间序列上仍然具有竞争力[5 (https://arxiv.org/html/2606.27863#bib.bib22)]。然而，为成千上万的零售序列维护单独的模型在目录规模上变得操作上具有挑战性。因此，近年来最先进的解决方案越来越依赖于在相关序列之间共享信息的全局学习方法。

全局预测模型。全局预测架构在数据集的所有时间序列上学习单个模型。DeepAR[12 (https://arxiv.org/html/2606.27863#bib.bib7)]、DeepFactors[14 (https://arxiv.org/html/2606.27863#bib.bib9)]和Temporal Fusion Transformers[6 (https://arxiv.org/html/2606.27863#bib.bib10)]证明，参数共享可以在减少维护开销的同时显著提高预测性能。最近，长期预测架构，如Informer[20 (https://arxiv.org/html/2606.27863#bib.bib12)]、Autoformer[16 (https://arxiv.org/html/2606.27863#bib.bib13)]、PatchTST[9 (https://arxiv.org/html/2606.27863#bib.bib14)]和TimesNet[15 (https://arxiv.org/html/2606.27863#bib.bib15)]，改进了对长期时间依赖关系的建模。然而，这些方法主要关注时间动态，并不显式建模零售系统中存在的产品、门店和其他实体之间的关系。

基于图的预测。图形神经网络为建模相关实体之间的依赖关系提供了一种自然机制。现有的图预测方法，如STGCN[19 (https://arxiv.org/html/2606.27863#bib.bib18)]、Graph WaveNet[18 (https://arxiv.org/html/2606.27863#bib.bib19)]、MTGNN[17 (https://arxiv.org/html/2606.27863#bib.bib20)]和AGCRN[1 (https://arxiv.org/html/2606.27863#bib.bib21)]，直接从相关时间序列中学习图结构，并在交通和传感器预测任务中表现出强劲性能。最近，基于图的关系数据库学习已成为企业预测应用的一个有前景的框架[4 (https://arxiv.org/html/2606.27863#bib.bib2),11 (https://arxiv.org/html/2606.27863#bib.bib1)]，其中产品、门店、类别和交易可以被表示为通过自然业务关系连接的节点。虽然这些方法有效地捕捉了跨实体依赖关系，但预测通常使用简单的基于MLP的预测头进行，这些预测头直接将学习到的表示映射到未来值。

预测分解与可解释性.预测分解已被证明对长期预测非常有效。N-BEATS[10 (https://arxiv.org/html/2606.27863#bib.bib5)]引入了可解释的趋势和季节基，而N-HiTS[2 (https://arxiv.org/html/2606.27863#bib.bib6)]通过层级插值扩展了这一思想。类似地，基于分解的Transformer架构，如Autoformer[16 (https://arxiv.org/html/2606.27863#bib.bib13)]，明确分离趋势和季节模式以提高长期预测性能。尽管取得了成功，这些方法主要设计用于独立时间序列，并不利用大型零售系统中常见的关系结构。

GNBAN的定位。GNBAN通过将基于图的预测与基风格预测分解相结合，弥合了这些研究方向之间的差距。与依赖黑盒预测头的现有图预测模型不同，GNBAN引入了一种基注意力预测头，将预测分解为可解释的趋势、季节和残差组件，同时利用基于图的表示来捕捉跨实体需求动态。

## 3 方法

GNBAN（图神经基注意力网络）是一种用于大规模零售需求预测的全局预测架构。该模型将捕捉零售实体间依赖关系的异构图编码器与产生可解释长期预测的基注意力预测头相结合。图1 (https://arxiv.org/html/2606.27863#S3.F1)提供了架构概述。

工作流程包括四个阶段。首先，零售数据库被表示为一个从底层关系模式派生的异构图。其次，一个异构图形神经网络将每个预测实体及其历史上下文编码为潜在表示。第三，一个基注意力预测头生成预测，作为趋势、季节和残差组件的加性组合。最后，整个架构使用归一化预测目标进行端到端训练。

参见说明图 1:GNBAN概述。零售数据库被表示为一个异构图，其中每个预测实体连接到其历史销售观测。一个异构GraphSAGE生成实体嵌入和上下文邻域表示。基注意力预测头随后使用专用的可学习查询生成三个加性预测组件：趋势、季节和通用，这些查询关注历史邻域。这些组件被组合以产生最终的长期预测。### 3.1 图表示

我们将零售数据集表示为一个直接从底层关系模式构建的异构图。该图包含两种节点类型：

- •itemstore：每个SKU-门店预测实体对应一个节点。
- •sales：每个与实体关联的历史观测对应一个节点。

Item-store节点包含静态属性，如产品类别、部门、门店标识符和地理信息。Sales节点包含历史需求值和时变协变量，包括价格、促销、节假日和日历特征。

边遵循销售观测与其对应item-store实体之间的自然外键关系。对于每个预测实体，我们在预测原点之前采样其历史销售邻域，确保在训练或推理期间没有未来信息可用。

### 3.2 异构图形编码器

给定一个目标item-store实体vv和其采样的邻域N\(v\)\\mathcal\{N\}\(v\)，一个异构GraphSAGE编码器从相邻的销售观测中聚合信息以产生上下文表示。设xv\\mathbf\{x\}\_\{v\}表示实体vv的特征向量，xu\\mathbf\{x\}\_\{u\}表示相邻销售节点uu的特征向量。编码器计算

zv=σ\(Wselfxv\+Meanu∈N\(v\)Wnbrxu\)\\mathbf\{z\}\_\{v\}=\\sigma\\left\(W\_\{\\mathrm\{self\}\}\\mathbf\{x\}\_\{v\}\+\\mathrm\{Mean\}\_\{u\\in\\mathcal\{N\}\(v\)\}W\_\{\\mathrm\{nbr\}\}\\mathbf\{x\}\_\{u\}\\right\)\(1\)
其中σ\(⋅\)\\sigma\(\\cdot\)表示一个非线性变换后接层归一化。得到的嵌入zv∈Rd\\mathbf\{z\}\_\{v\}\\in\\mathbb\{R\}^\{d\}同时捕捉了实体特定信息和历史需求上下文。除了目标嵌入，编码器还产生上下文嵌入

Cv=\[h1,...,hN\]∈RN×d\\mathbf\{C\}\_\{v\}=\[\\mathbf\{h\}\_\{1\},\\ldots,\\mathbf\{h\}\_\{N\}\]\\in\\m