图神经网络的凸-凹二次谱滤波

arXiv cs.LG 论文

摘要

提出了DCQ-GNN,一种谱图神经网络,它使用一组紧凑的自适应凸-凹二次滤波器来提高谱选择性,而无需高阶多项式,在同质性和异质性图上均取得了有竞争力的结果。

arXiv:2606.24956v1 Announce Type: new 摘要:谱图神经网络(GNNs)将消息传递解释为频率选择性滤波。虽然低阶谱滤波器效率高,但其有限的选择性通常导致通带外衰减不足,而高阶替代方案则引入优化挑战。我们提出DCQ-GNN,一种基于紧凑的自适应凸-凹二次滤波器组的谱图神经网络。通过将滤波器阶数限制为二阶并显式利用互补曲率,DCQ-GNN提高了谱选择性(通过Dirichlet能量和熵度量量化),而无需借助高阶多项式展开。该模型通过节点自适应门控机制融合滤波器输出,实现节点级别的结构感知谱选择。我们提供了基于Dirichlet能量衰减、von Neumann熵和曲率极性的形式化谱分析,并推导出滤波器在不同同质性水平和结构扰动下的行为显式表征。在10个数据集上的广泛基准测试表明,DCQ-GNN在异质性图上并列最高平均排名(3.0),在同质性图上获得第二佳排名(4.2),与代表性的高阶多项式谱滤波器保持竞争力。此外,在强结构扰动下,与一阶和高阶基线相比,DCQ-GNN表现出显著更小的性能下降。这些结果表明,曲率感知的二次滤波器组为高阶谱模型提供了鲁棒且高效的替代方案,同时保持了优化稳定性和计算效率。
查看原文
查看缓存全文

缓存时间: 2026/06/25 05:07

# 凸-凹二次谱滤波用于图神经网络††致谢:本文已被ECML-PKDD 2026接收。最终认证版本将通过Springer LNCS在线发布。本研究获得国家自然科学基金(项目号:12271111)的部分资助。来源:https://arxiv.org/html/2606.24956 冉辉1,蔡佳2,陈梦竹2,杨浩东2 1广州新华学院计算机与人工智能学院,广东广州 yan\_rh1999@outlook\.com 2广东财经大学统计与数据科学学院,广东广州 jiacai1999@gdufe\.edu\.cn,mengzhuchen@student\.gdufe\.edu\.cn,haodongyang@student\.gdufe\.edu\.cn ###### 摘要 谱图神经网络(GNN)将消息传递解释为频率选择性滤波。虽然低阶谱滤波器高效,但其有限的选择性常导致阻带外衰减不足,而高阶替代方案则带来优化挑战。我们提出DCQ-GNN,一种基于紧凑的自适应凸-凹二次滤波器组的谱GNN。通过将滤波器阶数限制为二阶并显式利用互补曲率,DCQ-GNN在不诉诸高阶多项式展开的情况下,提高了由Dirichlet能量和熵度量所量化的谱选择性。该模型通过节点自适应门控机制融合滤波器输出,实现节点级的结构感知谱选择。我们提供了基于Dirichlet能量衰减、von Neumann熵和曲率极性的正式谱分析,并推导了在不同同配水平和结构扰动下滤波器行为的显式特征。在10个数据集上的广泛基准测试表明,DCQ-GNN在异配图上并列最高平均排名(3.0),在同配图上获得第二好排名(4.2),与代表性的高阶多项式谱滤波器保持竞争力。此外,在强结构扰动下,与一阶和高阶基线相比,DCQ-GNN的性能退化显著更小。这些结果表明,曲率感知的二次滤波器组提供了一种稳健且高效的高阶谱模型替代方案,同时保持了优化稳定性和计算效率。 ## 1 引言 图神经网络(GNN)在各类关系学习任务中取得了强劲性能。从谱角度来看,许多GNN架构可被解释为应用于图拉普拉斯的频率选择性滤波器,其中消息传递对应于谱域中的多项式滤波。这一解释催生了大量通过显式设计图频率上的滤波器响应来工作的谱GNN模型。低阶谱滤波器高效且稳定,但选择性有限:阻带外的衰减是渐进的,可能模糊结构信号(图1)。高阶多项式滤波器能实现更尖锐的响应,但引入了优化挑战和对结构扰动的敏感性。

参考图注
图1:线性与凸-凹二次拉普拉斯滤波器在归一化特征值范围[0,2]上的谱响应。相比线性基线,二次滤波器在截止区域附近表现出更尖锐的曲率。

现有谱GNN主要通过增加多项式阶数或扩展滤波器基族来追求表达能力。相比之下,我们认为谱滤波器的首要设计轴不必是多项式近似阶数,而应是曲率极性,即对谱响应凸性和凹性的显式控制。这一视角将目标从通用近似转向在低阶约束下优化稳定性-选择性权衡。曲率极性全局约束了二阶导数符号,这在无约束的多项式展开中无法保证。我们提出DCQ-GNN,一种基于紧凑的自适应凸-凹二次滤波器组的谱GNN。DCQ-GNN不增加多项式次数,而是固定滤波器阶数为二,并引入互补曲率极性来塑造谱衰减。配对凸响应和凹响应能产生比线性滤波器更尖锐的谱过渡,且没有高阶多项式的不稳定性。这种以曲率为中心的设计将DCQ-GNN与基扩展方法(如Bernstein或Jacobi多项式滤波器)区分开来,后者通过高阶多项式展开提升谱灵活性。我们的方法则利用受控曲率来增强每个参数的谱选择性,优先考虑稳健性和稳定性而非通用逼近能力。

为了实现结构感知的谱自适应,DCQ-GNN通过节点自适应门控机制融合滤波器输出。该门控模块执行局部化的节点级谱选择,允许不同节点根据结构上下文强调凸或凹响应,从而在不增加滤波器阶数的情况下引入节点级谱偏置。我们提供了基于Dirichlet能量衰减间隙、von Neumann熵演化和曲率极性的正式谱分析。我们的分析刻画了凸和凹二次分量如何诱导不同的衰减机制,揭示了在变化的同配水平和结构扰动下调节谱能量衰减的可控机制。在十个基准数据集上的广泛实验表明,DCQ-GNN在同配和异配图上均取得了有竞争力的性能。值得注意的是,在强结构扰动下,与一阶和高阶基线相比,DCQ-GNN表现出更小的性能退化,支持了我们关于曲率感知低阶滤波能提高稳健性的假设。

我们的贡献可总结如下:
- • 我们将曲率极性引入作为二阶谱GNN滤波器的显式约束。通过配对凸和凹响应,DCQ-GNN覆盖了定理8中描述的全二次滤波器空间,而非通过启发式的频率中心或带宽选择滤波器。
- • 我们提出一个紧凑的凸-凹二次滤波器组,结合节点自适应门控。
- • 我们通过Dirichlet能量衰减间隙和熵分析提供了理论谱解释。
- • 我们在涵盖同配和异配设置的不同图域中展示了有竞争力的性能和改进的稳健性,计算成本与低阶传播相当。

表1:DCQ-GNN与代表性多项式谱GNN(包括BernNet和JacobiConv)的性能比较。

与通过增加多项式阶数来增强灵活性的基于Bernstein和Jacobi的谱滤波器相比,我们的方法在固定的二阶公式中利用曲率极性(表1)。与基于Bernstein和Jacobi的谱滤波器的详细比较见附录B。

## 2 凸-凹二次滤波器GNN架构

参考图注
图2:DCQ-GNN架构。并行的凸和凹二次滤波器提取互补的频率分量,其输出通过一个节点自适应门控机制与全通残差锚进行融合。

我们提出DCQ-GNN,一种谱图神经网络,旨在解决线性(一阶)拉普拉斯滤波器频率选择性有限的问题,同时保持低阶消息传递机制的计算效率和数值稳定性。DCQ-GNN不增加多项式次数,而是通过一个紧凑的自适应二次滤波器组来增强谱表达能力,其凸-凹曲率在严格的二阶公式中诱导互补的频率响应。如图2所示,每个DCQ-GNN层包含两个组件:
- • **自适应凸-凹二次滤波器组**。一组小型二阶谱滤波器,提取低、中、高频分量,以及一个全通(恒等)通道。这些滤波器被参数化以适应其过渡区域和幅度,从而在具有不同同配特性的图上实现频率感知表示。
- • **节点自适应门控融合**。一种门控机制,在逐节点基础上组合滤波后的通道,允许模型在结构信息丰富时强调依赖于结构的谱响应,并在图结构不可靠或噪声较大时退回到全通锚。

接下来,我们形式化谱设置,描述凸-凹二次滤波器组的构建,并介绍节点自适应融合机制。

### 2.1 预备知识

设 \(G=(\mathcal{V},\mathcal{E})\) 是一个具有 \(N\) 个节点的无向图,邻接矩阵 \(A \in \mathbb{R}^{N \times N}\),对角度矩阵 \(D\)。我们使用对称归一化拉普拉斯矩阵 \(\mathbf{L}=I-D^{-1/2}AD^{-1/2}=U\Lambda U^{\top}\),其中 \(0 \leq \lambda_1 \leq \dots \leq \lambda_N \leq 2\)。对于节点特征 \(X \in \mathbb{R}^{N \times F}\),谱滤波器 \(g: [0,2] \to \mathbb{R}\) 定义为 \(g(\mathbf{L})X = U g(\Lambda) U^{\top} X\)。为确保计算效率和局部消息传递,我们将 \(g\) 限制为二次多项式 \(g(\lambda)=a_0 + a_1 \lambda + a_2 \lambda^2\),其中 \(a_0, a_1, a_2\) 为常数,这避免了显式的特征分解,同时实现了非线性谱整形。DCQ-GNN显式利用这些二阶滤波器的曲率来细化频率响应,而不增加多项式次数。

### 2.2 自适应凸-凹二次滤波器组

我们构建一个紧凑的滤波器组 \(\mathcal{B}=\{g_{\text{low}}, g_{\text{mid}}, g_{\text{high}}, g_{\text{all}}\}\),其中每个 \(g(\lambda)\) 是 \([0,2]\) 上的二次多项式。每个低通或高通通道包含凸-凹变体,但门控机制将它们聚合成四个有效的频率通道。为了以最少的参数引入自适应性,我们采用两个可学习的标量参数:(i) 截止代理 \(\tilde{\lambda} = 2 - \alpha\),其中 \(\alpha \in [0,1]\),控制二次极值点的谱位置;(ii) 正尺度 \(0 < \beta \leq \min\{1, \tilde{\lambda}^2/4\}\)¹,控制响应幅度并确保曲率明确定义。

¹这个 \(\beta\) 的具体边界是保证 \(\max_{\lambda \in [0,2]} |g(\lambda)| \leq 1\) 的充要条件。

**滤波器通道。** 令 \(\mathbf{Z}_1 = \mathbf{L} X\),\(\mathbf{Z}_2 = \mathbf{L} \mathbf{Z}_1 = \mathbf{L}^2 X\)。每个通道可以表示为 \(X, \mathbf{Z}_1, \mathbf{Z}_2\) 的线性组合,从而通过稀疏传播实现高效计算。

1. **低通通道(同配)。** 定义**凸低通**为
   \[
   g_{\text{low}}^{\text{cvx}}(\mathbf{L})X = \frac{\beta}{\tilde{\lambda}^2}(\mathbf{Z}_2 - 2\tilde{\lambda} \mathbf{Z}_1 + \tilde{\lambda}^2 X), \tag{1}
   \]
   它在高频区域诱导更尖锐的衰减;以及**凹低通**为
   \[
   g_{\text{low}}^{\text{ccv}}(\mathbf{L})X = -\frac{\beta}{\tilde{\lambda}^2}(\mathbf{Z}_2 - \tilde{\lambda}^2 X), \tag{2}
   \]
   它在低到中频维持更宽的有效通带。

2. **高通通道(异配)。** 为了强调异配高频分量,我们使用**凸高通**
   \[
   g_{\text{high}}^{\text{cvx}}(\mathbf{L})X = \frac{\beta}{\tilde{\lambda}^2} \mathbf{Z}_2, \tag{3}
   \]
   它强烈抑制低频内容;以及**凹高通**
   \[
   g_{\text{high}}^{\text{ccv}}(\mathbf{L})X = -\frac{\beta}{\tilde{\lambda}^2}(\mathbf{Z}_2 - 2\tilde{\lambda} \mathbf{Z}_1) \tag{4}
   \]
   以在频区域产生更广的激活区域。

3. **中通:** \(g_{\text{mid}}(\mathbf{L})X = -\frac{4\beta}{\tilde{\lambda}^2}(\mathbf{Z}_2 - \tilde{\lambda} \mathbf{Z}_1)\),一种强调中间频率的非单调响应,经验上对结构扰动更鲁棒[13]。

4. **全通(恒等):** \(g_{\text{all}}(\mathbf{L})X = X\),保留原始特征,作为与结构无关的锚。

##### 为什么选择二次而非其他结构化基?在固定阶数 \(K=2\) 时,Chebyshev和Jacobi基在可逆基变换下张成与 \(a_0 + a_1 \lambda + a_2 \lambda^2\) 相同的三维多项式空间。因此它们并未扩大可容许的谱响应类,同时使曲率极性不够显式。有理滤波器 \(g(\lambda)=p(\lambda)/q(\lambda)\) 可以实现更陡峭的滚降,但可能的极点对 \(q(\lambda)\) 引入了额外约束,并复杂化了在 \([0,2]\) 上 \(\|g(\lambda)\| \leq 1\) 的一致有界性要求。基于小波或框架的分解提供了多尺度分离,但需要框架构造和尺度选择约束,这与可学习的截止参数 \(\tilde{\lambda}\) 不自然对齐。因此,二次类是同时满足以下条件的最低次多项式族:(i) 通过单个系数 \(a_2\) 编码符号确定的曲率;(ii) 允许在拉普拉斯扰动下具有解析的Lipschitz稳定性界(定理5);(iii) 恢复热扩散的二阶泰勒形式,这启发了凸低通分支。负号被引入以确保通带对齐。

曲率参数也可以作为超参数处理,允许模型适应不同同配特性的图。具体而言,式(1)中定义的凸低通滤波器给出 \(g_{\text{low}}^{\text{cvx}}(\lambda) = \frac{\beta}{\tilde{\lambda}^2} (\lambda^2 - 2\tilde{\lambda}\lambda + \tilde{\lambda}^2)\),对应于热核 \(e^{-\tau \lambda}\) 的二阶泰勒近似。因此,凸低通滤波器主要通过衰减高频分量充当去噪算子。另一方面,当 \(\tilde{\lambda}=1\) 且使用最大允许尺度 \(\beta=1/4\) 时,滤波器对 \(\{g_{\text{low}}^{\text{cvx}}, g_{\text{high}}^{\text{ccv}}\}\) 构成一个缩放的单位划分,因为 \(g_{\text{low}}^{\text{cvx}}(\lambda) + g_{\text{high}}^{\text{ccv}}(\lambda) = \beta = 1/4, \forall \lambda \in [0, \tilde{\lambda}]\)。

相似文章

公平图神经网络的子图过滤

arXiv cs.LG

本文提出了公平图神经网络的子图过滤(SF-GNN)框架,该框架通过过滤边来减轻图神经网络中的结构偏差,以改善公平性-准确性权衡。

基于连续时间量子行走的图神经网络

arXiv cs.AI

本文介绍了CTQW-GNN,这是一种利用连续时间量子行走来解决过平滑问题并提升异质图性能的图神经网络,在基准数据集上展示了最新成果。

使用K跳高斯扩散增强的图神经网络

arXiv cs.LG

本文提出一种K跳高斯(KHG)扩散核,作为图神经网络的预处理模块,平衡局部和全局信息传播,以缓解过度平滑和信息瓶颈问题。实验表明,相比传统的消息传递图神经网络和现有扩散核,该方法在噪声或结构复杂的图上取得了显著改进。