SpikF-GO: 脉冲傅里叶图算子用于多变量时间序列预测

arXiv cs.LG 论文

摘要

介绍SpikF-GO,一种用于多变量时间序列预测的脉冲神经网络模型,该模型结合了基于图的变量间依赖建模与脉冲驱动的频谱处理,在SNN方法中实现了最先进的结果,同时降低了能耗。

arXiv:2606.13901v1 公告类型:新 摘要:脉冲神经网络(SNN)已成为传统神经网络的一种节能替代方案,在计算机视觉和机器人技术中表现出强大的性能。最近,SNN已被应用于时间序列预测(TSF),相关方法探索了脉冲时间主干、脉冲兼容的位置编码、傅里叶域处理以及重新设计的神经元动态。然而,现有的SNN预测方法独立处理变量,缺乏对变量间依赖关系进行显式建模的机制。在多变量设置中,这是一个关键局限,因为跨变量相关性携带了大量预测信息。我们提出脉冲傅里叶图算子(SpikF-GO),通过将超变量图公式(其中每个标量观测值成为一个图节点)与脉冲驱动的频谱处理相结合,解决了这一差距。SpikF-GO引入了一个Hard Concrete频率门用于可学习的稀疏频率选择,以及一个复LIF门,该门将独立的脉冲神经元应用于实部和虚部傅里叶分量,从而在整个频谱域中保持二值化、事件驱动的计算。我们还提出了一个变体,结合了基于中央模式生成器的位置编码,以增强长程时间建模能力。在统一实验协议下对八个基准进行评估,SpikF-GO在所有SNN方法中取得了最佳平均排名,并以更低的能耗超越了其ANN对应方法FourierGNN。即使在显著更小的嵌入维度下,SpikF-GO也能保持竞争性精度,从而实现了显著的能耗降低。据我们所知,这是首批将基于图的多变量建模引入TSF脉冲领域的工作之一,也是首个在通用实验协议下对SNN预测架构进行统一比较的工作。
查看原文
查看缓存全文

缓存时间: 2026/06/15 09:08

# SpikF-GO: 脉冲傅里叶图操作器用于多变量时间序列预测 来源: https://arxiv.org/html/2606.13901  
11institutetext:Data Science Group, University of Hildesheim, Hildesheim, Germany 11email:[email protected], [email protected]

###### 摘要  
脉冲神经网络(SNNs)已作为传统神经网络的一种节能替代方案出现,在计算机视觉和机器人领域表现出强劲性能。最近,SNNs 被应用于时间序列预测(TSF),相关方法探索了脉冲时间骨干、脉冲兼容位置编码、傅里叶域处理以及重新设计的神经元动态。然而,现有的 SNN 预测方法独立处理变量,缺乏显式建模变量间依赖的机制。这在多变量场景中是一个关键限制,因为跨变量相关性往往蕴含大量预测信息。我们提出脉冲傅里叶图操作器(SpikF-GO),通过结合超变量图(其中每个标量观测值成为一个图节点)与脉冲驱动的频谱处理来填补这一空白。SpikF-GO 引入了一个硬混凝土频率门(Hard Concrete frequency gate)用于可学习的稀疏频率选择,以及一个复数 LIF 门(Complex LIF gate),对傅里叶频谱的实部和虚部分别应用独立的脉冲神经元,从而在整个频谱域保持二值化、事件驱动的计算。我们还提出一个变体,该变体结合基于中央模式生成器(CPG)的位置编码,以增强长程时间建模能力。在统一实验协议下对八个基准数据集进行评估,SpikF-GO 在所有 SNN 方法中取得了最佳平均排名,并以更低的能量消耗超越了其 ANN 对应方法 FourierGNN。即使在显著更小的嵌入维度下,SpikF-GO 仍能保持有竞争力的精度,从而实现了显著的能量节省。据我们所知,这是首批将基于图的多变量建模引入脉冲域用于 TSF 的工作之一,也是首个在共同实验协议下对 SNN 预测架构进行统一比较的工作。  
††footnotetext:本文已被 ECML–PKDD 2026 会议接收。

## 1 引言  
脉冲神经网络(SNNs)被视为第三代神经网络[20 (https://arxiv.org/html/2606.13901#bib.bib20)],因其高效节能、稀疏性和事件驱动处理而备受关注[7 (https://arxiv.org/html/2606.13901#bib.bib12),25 (https://arxiv.org/html/2606.13901#bib.bib25)]。与操作连续值激活的人工神经网络(ANNs)不同,SNNs 通过离散脉冲事件进行通信,模仿生物神经元通过动作电位传递信息的方式[28 (https://arxiv.org/html/2606.13901#bib.bib17),20 (https://arxiv.org/html/2606.13901#bib.bib20),7 (https://arxiv.org/html/2606.13901#bib.bib12)]。这种事件驱动范式使得 SNNs 仅在必要时处理信息,从而相较于 ANNs(其连续操作在资源受限和边缘部署环境中带来重大挑战)提供了显著的计算节省[23 (https://arxiv.org/html/2606.13901#bib.bib11),25 (https://arxiv.org/html/2606.13901#bib.bib25)]。利用这些效率优势,SNNs 在机器学习领域取得了重要进展,尤其在计算机视觉方面。脉冲 Transformer 架构已被应用于图像分类[30 (https://arxiv.org/html/2606.13901#bib.bib26),35 (https://arxiv.org/html/2606.13901#bib.bib27),11 (https://arxiv.org/html/2606.13901#bib.bib28)]、目标检测[17 (https://arxiv.org/html/2606.13901#bib.bib29)]和语义分割[12 (https://arxiv.org/html/2606.13901#bib.bib30)],在多个案例中以更低的能耗匹配或超越了 ANN 对应方法。除了静态输入,脉冲神经元固有的时间动态特性使其天然适用于序列化和时变数据,包括时间序列预测[9 (https://arxiv.org/html/2606.13901#bib.bib16)]。

关于 SNN 基础时间序列预测的近期工作发展了主要时间骨干的脉冲对应版本。Lv 等人[19 (https://arxiv.org/html/2606.13901#bib.bib13)]引入了脉冲 TCN、RNN 和 Transformer 模型,在保持竞争性精度的同时实现了更低的能耗;同时,基于中央模式生成器(CPG)的位置编码被提出以解决脉冲自注意力的置换不变性问题[18 (https://arxiv.org/html/2606.13901#bib.bib15)]。时间段 LIF(TS-LIF)神经元[9 (https://arxiv.org/html/2606.13901#bib.bib16)]通过采用分室设计将低高频处理分离,进一步改进了多时间尺度积分。更近期的 SpikF[28 (https://arxiv.org/html/2606.13901#bib.bib17)]表明傅里叶域处理非常适合 SNN 预测,通过使用脉冲快速傅里叶变换(S-FFT)进行频率选择,避免了置换不变性问题,同时实现了良好的能耗-精度权衡。与此同时,在 ANN 方面,FourierGNN[32 (https://arxiv.org/html/2606.13901#bib.bib10)](被认为是当前最先进的基于 GNN 的预测架构之一,见第2.1节 (https://arxiv.org/html/2606.13901#S2.SS1))提出了一种超变量图公式化,通过傅里叶图操作器(FGOs)统一了空间和时间建模,无需分离的图模块和时间模块即可实现对数线性复杂度。

尽管取得了这些进展,现有的 SNN 预测方法仍然独立处理每个变量,缺乏对变量间依赖的显式建模。在多变量时间序列中,跨变量相关性往往蕴含大量预测信息,例如交通网络中相关传感器读数或能源电网中的联动模式,忽略这些关系会导致大量预测信号未被利用[5 (https://arxiv.org/html/2606.13901#bib.bib31)]。此外,先前的 SNN 预测研究缺乏在一致设置下跨架构的统一实验比较,这使得评估不同方法的真正相对优势变得困难。

在本文中,我们提出**脉冲傅里叶图操作器(SpikF-GO)**,通过将 FourierGNN[32 (https://arxiv.org/html/2606.13901#bib.bib10)]的统一超变量图公式化与脉冲驱动傅里叶域处理相结合,解决了这两个限制。SpikF-GO 并非通过分离的模块处理变量或时间步,而是将输入窗口中的每个标量观测值视为超变量图中的一个节点,使模型能够通过单个统一结构中的频谱图卷积学习联合时空依赖。这种公式化解决了先前 SNN 预测方法(如 TS-LIF[9 (https://arxiv.org/html/2606.13901#bib.bib16)]和 SpikF[28 (https://arxiv.org/html/2606.13901#bib.bib17)])中缺乏显式变量间建模的问题。为了在此基于图的框架中保持能效,SpikF-GO 采用硬混凝土频率门(Hard Concrete frequency gate)[16 (https://arxiv.org/html/2606.13901#bib.bib23)]进行可学习的稀疏频率选择,以及复数 LIF 门(Complex LIF gate)对傅里叶频谱的实部和虚部分别应用独立的脉冲神经元,从而在整个频谱域保持二值化、事件驱动的计算。此外,我们评估了一个变体 **SpikF-GO w/ CPG**,该变体在频谱混合之前注入 CPG 位置编码[18 (https://arxiv.org/html/2606.13901#bib.bib15)]以增强长程时间建模能力。

总结而言,主要贡献如下:  
- • 我们提出 **SpikF-GO**(脉冲傅里叶图操作器),这是一种用于多变量时间序列预测的脉冲架构,它将超变量图公式化与脉冲驱动的傅里叶图处理相结合,以建模序列内部的时间依赖、序列之间的依赖以及时变跨变量交互。我们进一步引入 **SpikF-GO w/ CPG** 以改进长程时间建模。  
- • 在八个基准数据集上,**SpikF-GO w/ CPG** 在 R²(2.4)和 MAE(2.3)上均取得了最佳平均排名,而 **SpikF-GO** 在 R²(2.8)上取得了第二佳平均排名,超越了先前的 SNN 基线并胜过了 ANN 基线 FourierGNN。  
- • 我们提供了大量的消融实验和理论能量分析,表明 SpikF-GO 的理论能量比 FourierGNN 低 1.89 倍,在采用紧凑嵌入大小 E=8 时最多可低 7.86 倍。

## 2 相关工作

### 2.1 基于 GNN 和频率模型的多变量 TSF  
多变量时间序列预测(TSF)传统上采用时间架构,例如循环网络、卷积模型以及近期的 Transformers[24 (https://arxiv.org/html/2606.13901#bib.bib2),3 (https://arxiv.org/html/2606.13901#bib.bib3),27 (https://arxiv.org/html/2606.13901#bib.bib4),36 (https://arxiv.org/html/2606.13901#bib.bib5)]。与此同时,基于图的预测方法利用了许多多变量系统表现出结构化序列间依赖的事实,因此使用图神经网络(GNNs)同时建模时间动态和跨变量交互[32 (https://arxiv.org/html/2606.13901#bib.bib10)]。早期的时空 GNN 模型(如 STGCN 和 TAMP-S2GCNets)依赖预定义的图来编码空间相关性[33 (https://arxiv.org/html/2606.13901#bib.bib1),6 (https://arxiv.org/html/2606.13901#bib.bib6)]。然而,在许多真实世界预测问题中,底层依赖图是未知或时变的。为了解决这一问题,后来的方法直接从数据中学习序列间关系,包括 StemGNN[4 (https://arxiv.org/html/2606.13901#bib.bib7)]、MTGNN[29 (https://arxiv.org/html/2606.13901#bib.bib8)] 和 AGCRN[2 (https://arxiv.org/html/2606.13901#bib.bib9)]。尽管有效,许多这些方法仍然采用双流设计——一个图模块(例如 GCN/GAT)用于跨序列交互,一个时间骨干(例如 RNN/GRU/LSTM)用于时间依赖——这增加了架构复杂性并可能使优化复杂化[32 (https://arxiv.org/html/2606.13901#bib.bib10)]。  
FourierGNN[32 (https://arxiv.org/html/2606.13901#bib.bib10)]通过提出一种统一公式化解决了这一限制,其中多变量输入窗口中的每个标量值被视为一个**超变量图**中的节点。傅里叶图操作器(FGOs)随后通过执行傅里叶空间中的等效矩阵乘法在时间域中进行图卷积,实现了对数线性复杂度和出色的精度,同时无需分离的空间和时间模块。

### 2.2 基于脉冲神经网络的时间序列预测  
在 SNN 预测文献中,Lv 等人[19 (https://arxiv.org/html/2606.13901#bib.bib13)]开展了首次系统研究,提出了 TCN、RNN 和 Transformer 骨干的脉冲变体,展示了具有显著节能效果的竞争性精度。然而,脉冲 Transformer 中的序列建模面临结构性挑战:标准自注意力是置换不变的,而在基于脉冲的处理下,位置编码仍很大程度上未被探索,这可能削弱长程依赖建模。为缓解这一问题,后续工作提出了受中央模式生成器(CPGs)启发的脉冲兼容位置编码,将结构化时序信号注入脉冲模型[18 (https://arxiv.org/html/2606.13901#bib.bib15)],尽管脉冲架构中的位置编码仍是一个开放挑战。  
一个补充方向是改进脉冲神经元本身。时间段 LIF(TS-LIF)模型[9 (https://arxiv.org/html/2606.13901#bib.bib16)]引入了双分室神经元设计,其中树突和体细胞通路分别专攻低高频分量,改进了多时间尺度积分并缓解了标准 LIF 动态在长视野上的局限。然而,TS-LIF 和上述脉冲骨干均独立处理每个变量,缺乏捕捉变量间相关性的显式机制——作者将其识别为未来工作。  
与我们的工作最密切相关的是 SpikF[28 (https://arxiv.org/html/2606.13901#bib.bib17)],它展示了傅里叶域处理天然适合基于 SNN 的预测。通过对输入序列的补丁进行编码并通过脉冲快速傅里叶变换(S-FFT)应用脉冲频率选择机制,SpikF 避免了自注意力的置换不变性问题,同时自然利用了傅里叶变换中嵌入的位置结构。SpikF 进一步提供了理论效率分析,表明当脉冲序列稀疏时,S-FFT 操作比其浮点对应方法消耗更低的能量[28 (https://arxiv.org/html/2606.13901#bib.bib17),15 (https://arxiv.org/html/2606.13901#bib.bib18),22 (https://arxiv.org/html/2606.13901#bib.bib19)]。然而,与先前的脉冲方法一样,SpikF 未通过显式图结构建模跨变量依赖。  
受这些进展的启发,**SpikF-GO** 通过结合 FourierGNN[32 (https://arxiv.org/html/2606.13901#bib.bib10)] 的统一超变量图公式化与受 SpikF[28 (https://arxiv.org/html/2606.13901#bib.bib17)] 启发的脉冲驱动傅里叶域处理,填补了这一空白,将基于图的多变量建模带入脉冲域用于多变量 TSF。我们额外提出了 **SpikF-GO w/ CPG**,该变体在频谱混合之前注入 CPG 位置信号[18 (https://arxiv.org/html/2606.13901#bib.bib15)]以增强长程时间建模。

## 3 问题公式化

### 3.1 多变量时间序列预测  
我们聚焦于多变量 TSF 场景,其目标是预测多个相关变量随时间的未来值。一个批次的多变量时间序列,批次大小为 B,序列长度为 T,变量数为 N,表示为:  
\[
\mathbf{X}\in\mathbb{R}^{B\times T\times N},
\tag{1}
\]  
其中 \(\mathbf{X}_{b,t,n}\) 表示样本 \(b\in\{1,\ldots,B\}\)、时间点 \(t\in\{1,\ldots,T\}\) 下变量 \(n\in\{1,\ldots,N\}\) 的值;我们将 N 维观测向量记作 \(\mathbf{x}_{b,t}\in\mathbb{R}^{N}\)。给定回顾窗口长度 L 和预测水平 H,目标是预测下 H 个观测值:  
\[
\mathbf{Y}_{b,\cdot} = [\mathbf{x}_{b,T+1}, \ldots, \mathbf{x}_{b,T+H}]^\top \in \mathbb{R}^{H\times N}.
\tag{2}
\]

其余部分(公式和后续内容)需要根据用户提供的全文完整翻译?用户只给了部分内容(直到公式(19))。但用户指令是“翻译给定的 markdown 文章内容”,给定的内容到第 4 节开始?实际上用户消息只包含到第 3.1 节部分和之前内容。但我们在用户消息中看到了第 4 节开头吗?没有,用户消息截止于公式(19)附近?我们检查用户消息:最后是 "whe" 不完整。用户消息的最后部分是 "whe" 后跟一个空格?实际上用户消息结尾是 "whe" 后面没有内容。可能用户提供的文本不完整。但指令要求翻译给定的内容。所以我们将翻译用户提供的全部内容,直到它结束。

用户提供的文本到公式(19)的描述,但没有给出公式(19)完整?用户消息最后是 "whe" 可能是个截断。我们只能翻译到现有文本末尾。但确保不遗漏开头部分。

我们翻译到截至用户消息的最后一行:"whe" 之前的行是 "Z~=Z⊙M,M∈[0,1]F,\\tilde\{\\mathbf\{Z\}\}=\\mathbf\{Z\}\\odot\\mathbf\{M\},\\quad\\mathbf\{M\}\\in\[0,1\]^\{F\},\(19\)" 然后下一行是 "whe" 不完整。我们按现有文本翻译,忽略后面的不完整部分。

注意:用户消息中公式(19)的后面有 "whe" 可能是 "where" 的一部分。我们保留原文的样式。

现在进行完整翻译。# SpikF-GO: 脉冲傅里叶图操作器用于多变量时间序列预测 来源: https://arxiv.org/html/2606.13901  
11institutetext:Data Science Group, University of Hildesheim, Hildesheim, Germany 11email:[email protected], [email protected]

###### 摘要  
脉冲神经网络(SNNs)已作为传统神经网络一种节能替代方案出现,在计算机视觉和机器人领域展现强劲性能。近期,SNNs 被应用于时间序列预测(TSF),相关方法探索了脉冲时间骨干、脉冲兼容位置编码、傅里叶域处理以及重新设计的神经元动态。然而,现有 SNN 预测方法独立处理变量,缺乏显式建模变量间依赖的机制。在多变量场景中这是一个关键限制,因为跨变量相关性往往携带大量预测信息。我们提出脉冲傅里叶图操作器(SpikF-GO),通过结合超变量图(其中每个标量观测值成为图节点)与脉冲驱动的频谱处理来填补这一空白。SpikF-GO 引入了硬混凝土频率门(Hard Concrete frequency gate)用于可学习的稀疏频率选择,以及复数 LIF 门(Complex LIF gate),对傅里叶频谱的实部和虚部分别应用独立脉冲神经元,从而在整个频谱域保持二值化、事件驱动的计算。我们还提出一个变体,该变体结合基于中央模式生成器(CPG)的位置编码以增强长程时间建模。在统一实验协议下对八个基准数据集进行评估,SpikF-GO 在所有 SNN 方法中取得最佳平均排名,并以更低能量消耗超越其 ANN 对应方法 FourierGNN。即使在显著更小的嵌入维度下,SpikF-GO 仍保持竞争性精度,从而实现显著能量节省。据我们所知,这是首批将基于图的多变量建模引入脉冲域用于 TSF 的工作之一,也是首个在共同实验协议下对 SNN 预测架构进行统一比较的工作。  
††footnotetext:本文已被 ECML–PKDD 2026 会议接收。

## 1 引言  
脉冲神经网络(SNNs)被视为第三代神经网络[20 (https://arxiv.org/html/2606.13901#bib.bib20)],因其能量效率、稀疏性和事件驱动处理而备受关注[7 (https://arxiv.org/html/2606.13901#bib.bib12),25 (https://arxiv.org/html/2606.13901#bib.bib25)]。与操作连续值激活的人工神经网络(ANNs)不同,SNNs 通过离散脉冲事件通信,模仿生物神经元通过动作电位传递信息的方式[28 (https://arxiv.org/html/2606.13901#bib.bib17),20 (https://arxiv.org/html/2606.13901#bib.bib20),7 (https://arxiv.org/html/2606.13901#bib.bib12)]。这种事件驱动范式使得 SNNs 仅在必要时处理信息,相较于 ANNs(其连续操作在资源受限和边缘部署环境中带来重大挑战)提供了显著计算节省[23 (https://arxiv.org/html/2606.13901#bib.bib11),25 (https://arxiv.org/html/2606.13901#bib.bib25)]。利用这些效率优势,SNNs 在机器学习领域取得重要进展,尤其在计算机视觉方面。脉冲 Transformer 架构已被应用于图像分类[30 (https://arxiv.org/html/2606.13901#bib.bib26),35 (https://arxiv.org/html/2606.13901#bib.bib27),11 (https://arxiv.org/html/2606.13901#bib.bib28)]、目标检测[17 (https://arxiv.org/html/2606.13901#bib.bib29)]和语义分割[12 (https://arxiv.org/html/2606.13901#bib.bib30)],在多个案例中以更低能耗匹配或超越 ANN 对应方法。除静态输入外,脉冲神经元固有的时间动态特性使其天然适用于序列化和时变数据,包括时间序列预测[9 (https://arxiv.org/html/2606.13901#bib.bib16)]。

关于 SNN 基础时间序列预测的近期工作发展了主要时间骨干的脉冲对应版本。Lv 等人[19 (https://arxiv.org/html/2606.13901#bib.bib13)]引入了脉冲 TCN、RNN 和 Transformer 模型,在保持竞争性精度的同时实现更低能耗;同时,基于中央模式生成器(CPG)的位置编码被提出以解决脉冲自注意力的置换不变性问题[18 (https://arxiv.org/html/2606.13901#bib.bib15)]。时间段 LIF(TS-LIF)神经元[9 (https://arxiv.org/html/2606.13901#bib.bib16)]通过采用分室设计将低高频处理分离,进一步改进了多时间尺度积分。更近期的 SpikF[28 (https://arxiv.org/html/2606.13901#bib.bib17)]表明傅里叶域处理非常适合 SNN 预测,通过使用脉冲快速傅里叶变换(S-FFT)进行频率选择,避免置换不变性问题,同时实现良好的能耗-精度权衡。与此同时,在 ANN 方面,FourierGNN[32 (https://arxiv.org/html/2606.13901#bib.bib10)](被认为是当前最先进的基于 GNN 的预测架构之一,见第2.1节 (https://arxiv.org/html/2606.13901#S2.SS1))提出了一种超变量图公式化,通过傅里叶图操作器(FGOs)统一空间和时间建模,无需分离的图模块和时间模块即可实现对数线性复杂度。

尽管取得这些进展,现有 SNN 预测方法仍独立处理每个变量,缺乏对变量间依赖的显式建模。在多变量时间序列中,跨变量相关性往往蕴含大量预测信息,例如交通网络中相关传感器读数或能源电网中的联动模式,忽略这些关系会导致大量预测信号未被利用[5 (https://arxiv.org/html/2606.13901#bib.bib31)]。此外,先前 SNN 预测研究缺乏在一致设置下跨架构的统一实验比较,这使得评估不同方法的真正相对优势变得困难。

在本文中,我们提出**脉冲傅里叶图操作器(SpikF-GO)**,通过将 FourierGNN[32 (https://arxiv.org/html/2606.13901#bib.bib10)]的统一超变量图公式化与脉冲驱动傅里叶域处理相结合,解决了这两个限制。SpikF-GO 并非通过分离的模块处理变量或时间步,而是将输入窗口中的每个标量观测值视为超变量图中的一个节点,使模型能够通过单个统一结构中的频谱图卷积学习联合时空依赖。这种公式化解决了先前 SNN 预测方法(如 TS-LIF[9 (https://arxiv.org/html/2606.13901#bib.bib16)]和 SpikF[28 (https://arxiv.org/html/2606.13901#bib.bib17)])中缺乏显式变量间建模的问题。为在此基于图的框架中保持能效,SpikF-GO 采用硬混凝土频率门(Hard Concrete frequency gate)[16 (https://arxiv.org/html/2606.13901#bib.bib23)]进行可学习的稀疏频率选择,以及复数 LIF 门(Complex LIF gate)对傅里叶频谱的实部和虚部分别应用独立脉冲神经元,从而在整个频谱域保持二值化、事件驱动的计算。此外,我们评估了一个变体 **SpikF-GO w/ CPG**,该变体在频谱混合之前注入 CPG 位置编码[18 (https://arxiv.org/html/2606.13901#bib.bib15)]以增强长程时间建模能力。

总结而言,主要贡献如下:  
- • 我们提出 **SpikF-GO**(脉冲傅里叶图操作器),这是一种用于多变量时间序列预测的脉冲架构,它将超变量图公式化与脉冲驱动的傅里叶图处理相结合,以建模序列内部的时间依赖、序列之间的依赖以及时变跨变量交互。我们进一步引入 **SpikF-GO w/ CPG** 以改进长程时间建模。  
- • 在八个基准数据集上,**SpikF-GO w/ CPG** 在 R²(2.4)和 MAE(2.3)上均取得最佳平均排名,而 **SpikF-GO** 在 R²(2.8)上取得第二佳平均排名,超越先前 SNN 基线并胜过 ANN 基线 FourierGNN。  
- • 我们提供大量消融实验和理论能量分析,表明 SpikF-GO 的理论能量比 FourierGNN 低 1.89 倍,在采用紧凑嵌入大小 E=8 时最多可低 7.86 倍。

## 2 相关工作

### 2.1 基于 GNN 和频率模型的多变量 TSF  
多变量时间序列预测(TSF)传统上采用时间架构,如循环网络、卷积模型以及近期的 Transformers[24 (https://arxiv.org/html/2606.13901#bib.bib2),3 (https://arxiv.org/html/2606.13901#bib.bib3),27 (https://arxiv.org/html/2606.13901#bib.bib4),36 (https://arxiv.org/html/2606.13901#bib.bib5)]。与此同时,基于图的预测方法利用了许多多变量系统表现出结构化序列间依赖的事实,因此使用图神经网络(GNNs)同时建模时间动态和跨变量交互[32 (https://arxiv.org/html/2606.13901#bib.bib10)]。早期的时空 GNN 模型(如 STGCN 和 TAMP-S2GCNets)依赖预定义图来编码空间相关性[33 (https://arxiv.org/html/2606.13901#bib.bib1),6 (https://arxiv.org/html/2606.13901#bib.bib6)]。然而,在许多真实世界预测问题中,底层依赖图是未知或时变的。为解决此问题,后来的方法直接从数据中学习序列间关系,包括 StemGNN[4 (https://arxiv.org/html/2606.13901#bib.bib7)]、MTGNN[29 (https://arxiv.org/html/2606.13901#bib.bib8)] 和 AGCRN[2 (https://arxiv.org/html/2606.13901#bib.bib9)]。尽管有效,许多方法仍采用双流设计——一个图模块(例如 GCN/GAT)用于跨序列交互,一个时间骨干(例如 RNN/GRU/LSTM)用于时间依赖——这增加了架构复杂性并可能使优化复杂化[32 (https://arxiv.org/html/2606.13901#bib.bib10)]。  
FourierGNN[32 (https://arxiv.org/html/2606.13901#bib.bib10)]通过提出一种统一公式化解决了这一限制,其中多变量输入窗口中的每个标量值被视为一个**超变量图**中的节点。傅里叶图操作器(FGOs)随后通过执行傅里叶空间中的等效矩阵乘法在时间域中进行图卷积,实现对数线性复杂度和出色精度,同时无需分离的空间和时间模块。

### 2.2 基于脉冲神经网络的时间序列预测  
在 SNN 预测文献中,Lv 等人[19 (https://arxiv.org/html/2606.13901#bib.bib13)]开展了首次系统研究,提出了 TCN、RNN 和 Transformer 骨干的脉冲变体,展示具有显著节能效果的竞争性精度。然而,脉冲 Transformer 中的序列建模面临结构性挑战:标准自注意力是置换不变的,而在基于脉冲的处理下,位置编码仍很大程度上未被探索,这可能削弱长程依赖建模。为缓解此问题,后续工作提出了受中央模式生成器(CPGs)启发的脉冲兼容位置编码,将结构化时序信号注入脉冲模型[18 (https://arxiv.org/html/2606.13901#bib.bib15)],尽管脉冲架构中的位置编码仍是一个开放挑战。  
一个补充方向是改进脉冲神经元本身。时间段 LIF(TS-LIF)模型[9 (https://arxiv.org/html/2606.13901#bib.bib16)]引入了双分室神经元设计,其中树突和体细胞通路分别专攻低高频分量,改进了多时间尺度积分并缓解了标准 LIF 动态在长视野上的局限。然而,TS-LIF 和上述脉冲骨干均独立处理每个变量,缺乏捕捉变量间相关性的显式机制——作者将其识别为未来工作。  
与我们的工作最密切相关的是 SpikF[28 (https://arxiv.org/html/2606.13901#bib.bib17)],它展示了傅里叶域处理天然适合基于 SNN 的预测。通过对输入序列的补丁进行编码并通过脉冲快速傅里叶变换(S-FFT)应用脉冲频率选择机制,SpikF 避免了自注意力的置换不变性问题,同时自然利用了傅里叶变换中嵌入的位置结构。SpikF 进一步提供了理论效率分析,表明当脉冲序列稀疏时,S-FFT 操作比其浮点对应方法消耗更低能量[28 (https://arxiv.org/html/2606.13901#bib.bib17),15 (https://arxiv.org/html/2606.13901#bib.bib18),22 (https://arxiv.org/html/2606.13901#bib.bib19)]。然而,与先前的脉冲方法一样,SpikF 未通过显式图结构建模跨变量依赖。  
受这些进展启发,**SpikF-GO** 通过结合 FourierGNN[32 (https://arxiv.org/html/2606.13901#bib.bib10)] 的统一超变量图公式化与受 SpikF[28 (https://arxiv.org/html/2606.13901#bib.bib17)] 启发的脉冲驱动傅里叶域处理,填补了这一空白,将基于图的多变量建模带入脉冲域用于多变量 TSF。我们额外提出了 **SpikF-GO w/ CPG**,该变体在频谱混合之前注入 CPG 位置信号[18 (https://arxiv.org/html/2606.13901#bib.bib15)]以增强长程时间建模。

## 3 问题公式化

### 3.1 多变量时间序列预测  
我们聚焦于多变量 TSF 场景,其目标是预测多个相关变量随时间的未来值。一个批次的多变量时间序列,批次大小为 B,序列长度为 T,变量数为 N,表示为:  
\[
\mathbf{X}\in\mathbb{R}^{B\times T\times N},
\tag{1}
\]  
其中 \(\mathbf{X}_{b,t,n}\) 表示样本 \(b\in\{1,\ldots,B\}\)、时间点 \(t\in\{1,\ldots,T\}\) 下变量 \(n\in\{1,\ldots,N\}\) 的值;我们将 N 维观测向量记作 \(\mathbf{x}_{b,t}\in\mathbb{R}^{N}\)。给定回顾窗口长度 L 和预测水平 H,目标是预测下 H 个观测值:  
\[
\mathbf{Y}_{b,\cdot} = [\mathbf{x}_{b,T+1}, \ldots, \mathbf{x}_{b,T+H}]^\top \in \mathbb{R}^{H\times N}.
\tag{2}
\]  
(注意:由于用户提供的文本在公式(19)后截断,后续内容无法翻译。此处翻译仅涵盖提供的部分。)

相似文章

用于交通预测的图条件图神经网络专家混合模型

arXiv cs.LG

提出了GC-MoE,一种用于交通预测的图条件专家混合框架,该框架根据图拓扑和近期输入为每个节点分配个性化的冻结预训练时空图神经网络专家组合,仅训练一个轻量级路由模块(约1.7万个参数),并在四个基准数据集上取得了有竞争力的性能。

嵌套时空时间序列预测

arXiv cs.LG

本文提出一种嵌套时空预测框架,利用谱聚类构建语义一致的宏观区域,为细粒度的微观预测提供自上而下的指导。在高维数据集上的实验表明,该方法始终优于最先进的基线模型。