多源Wasserstein分布鲁棒图学习

# 多源Wasserstein分布鲁棒图学习
来源：https://arxiv.org/html/2608.19914

夏一帆 钟金山 沈晓敬  
致谢：本工作受四川省自然科学基金项目（创新研究团队）2026NSFSCZY0056资助。（通讯作者：沈晓敬。）  
彭传森、钟金山和沈晓敬隶属于中国四川省成都市四川大学数学学院，邮编610064。（电子邮箱：[email protected]；[email protected]；[email protected]）。  
夏一帆隶属于中国四川省成都市西南财经大学统计与数据科学学院，邮编611130。（电子邮箱：[email protected]）。

###### 摘要
从图信号推断网络拓扑是图信号处理的核心问题，在脑连接组学、传感器网络和社会网络中有广泛应用。实践中，目标域样本稀缺，而异构源域数据丰富。将这些来源融合为可靠的标称分布具有挑战性：当源同质时，欧几里得平均有效，但随着源间差异增大而急剧退化，将不同几何结构压缩为膨胀、有偏的共识。我们利用Wasserstein度量的分布保真融合特性来对抗异构性，同时保留每个源的内在几何结构。我们提出MS-WDRO，一个多源Wasserstein分布鲁棒图学习框架，通过加权Wasserstein重心（一种具有几何原理的标称分布）融合异构源，然后围绕它构建模糊集以应对残余不确定性。最小化该模糊集上的最坏情况风险产生一个可处理的规范化拉普拉斯估计器，并通过一个可证明收敛的ADMM方案高效求解。我们建立了非渐近保证：经验重心的有限样本集中界，证明简单聚合次优的池化偏差下界，以及仅对数依赖于源数量的参数速率衰减的样本外超额风险界。为校准控制鲁棒性、稀疏性和源融合的四个耦合超参数，我们将求解器展开为可微架构进行端到端训练，实现超越交叉验证的数据自适应校准，同时保留可解释性。在合成基准测试和多站点ABIDE I神经影像数据集上的实验表明，MS-WDRO在图恢复精度、样本效率和下游诊断效用方面持续优于七种基线方法，在催生本工作的样本稀缺场景中增益最大。

###### 索引术语：图信号处理、网络拓扑推断、分布鲁棒优化、Wasserstein重心、算法展开、异构多源学习

## I 引言
网络结构数据广泛存在于现代科学与工程中：基因调控网络控制细胞功能，功能脑连接组编码认知过程，电网在互联节点间交换能量，社交平台在关系图上产生观点动态\[1 (https://arxiv.org/html/2608.19914#bib.bib1), 2 (https://arxiv.org/html/2608.19914#bib.bib2), 3 (https://arxiv.org/html/2608.19914#bib.bib3), 4 (https://arxiv.org/html/2608.19914#bib.bib4), 5 (https://arxiv.org/html/2608.19914#bib.bib5), 6 (https://arxiv.org/html/2608.19914#bib.bib6)\]。图信号处理已成为分析此类不规则域上信号的原理性数学框架，将傅里叶分析、滤波和采样理论的经典工具扩展到以图顶点索引的数据\[7 (https://arxiv.org/html/2608.19914#bib.bib7), 8 (https://arxiv.org/html/2608.19914#bib.bib8), 9 (https://arxiv.org/html/2608.19914#bib.bib9)\]。该范式中的一个核心且常为基础的挑战是*网络拓扑推断*，即从观测到的节点信号中恢复底层图结构的问题。推断的拓扑本身并非终点；它是基于图的滤波、信号插值、异常检测以及在自闭症谱系障碍等疾病神经影像研究中发现生物标志物的基础。在所有这些场景中，下游分析的质量严重依赖于推断图的保真度，因此对统计上严谨且计算上可处理的拓扑估计器提出了高要求。

绝大多数图学习方法建立在捕捉观测信号与潜在图关系的生成信号模型上。在广泛采用的*平滑图信号模型*下，节点观测被假定在连接的顶点间变化缓慢，组合图拉普拉斯自然地作为相应退化高斯分布的精度矩阵出现。基于此模型，Dong等人\[10 (https://arxiv.org/html/2608.19914#bib.bib10)\]将图学习表述为约束最大似然估计问题，并推导出高效的块坐标下降算法。Kalofolias\[11 (https://arxiv.org/html/2608.19914#bib.bib11)\]将一个密切相关的目标重铸为适合近端梯度求解器的光滑凸规划，而Egilmez等人\[12 (https://arxiv.org/html/2608.19914#bib.bib12)\]将拉普拉斯矩阵的结构约束纳入其中，并开发了具有收敛保证的专用ADMM程序。随后的几项工作扩展了这些基础：Kumar等人\[13 (https://arxiv.org/html/2608.19914#bib.bib13)\]通过谱约束统一了广泛的结构化图学习问题；Sardellitti等人\[14 (https://arxiv.org/html/2608.19914#bib.bib14)\]利用变换学习推断图拓扑，无需指定参数信号模型；并且已开发出加速的一阶方法来处理大规模实例\[15 (https://arxiv.org/html/2608.19914#bib.bib15)\]。

超越平滑性范式，互补的研究方向从功率谱与图傅里叶基对齐的平稳图信号推断拓扑\[16 (https://arxiv.org/html/2608.19914#bib.bib16)\]，从扩散过程观测推断\[17 (https://arxiv.org/html/2608.19914#bib.bib17)\]，从信号二阶统计导出的谱模板推断\[18 (https://arxiv.org/html/2608.19914#bib.bib18)\]，以及从多个相关图的联合网络拓扑推断\[19 (https://arxiv.org/html/2608.19914#bib.bib19)\]。在概率图模型文献中，稀疏精度矩阵估计\[20 (https://arxiv.org/html/2608.19914#bib.bib20)\]为在高斯假设下恢复图结构提供了替代途径。

尽管在信号模型和算法策略上具有相当的多样性，这些方法有一个共同要求：它们依赖于从*同一*目标分布抽取的足够大且具有代表性的信号观测集合。当样本稀缺或观测未能真实反映目标分布时，其统计性能会严重退化。在实践中，图信号观测数量有限、受噪声污染，并且因传感器漂移、协议变异或环境变化而遭受分布偏移。在这些条件下，经验风险最小化（ERM）原则可能导致过拟合：学习的图拉普拉斯针对有限观测样本进行了校准，但推广到从真实底层分布抽取的信号时表现不佳\[21 (https://arxiv.org/html/2608.19914#bib.bib21)\]。

分布鲁棒优化（DRO）通过用一个从模糊集中抽取的最坏情况分布取代标称经验分布，提供了原理性补救，从而免疫估计器对训练和真实分布之间偏差的敏感性\[22 (https://arxiv.org/html/2608.19914#bib.bib22), 23 (https://arxiv.org/html/2608.19914#bib.bib23)\]。在众多模糊集选择中，那些通过Wasserstein度量定义的因其几何可解释性、与对抗扰动的紧密联系，以及能够将原本难处理的极小极大问题转化为易处理的凸重构而备受关注\[24 (https://arxiv.org/html/2608.19914#bib.bib24), 25 (https://arxiv.org/html/2608.19914#bib.bib25), 26 (https://arxiv.org/html/2608.19914#bib.bib26)\]。以经验分布为中心的规定半径的Wasserstein球保证了所学估计器对于位于训练数据控制的最优传输距离内的任何分布都表现良好，这是在没有形状假设的情况下纯基于矩的模糊集\[22 (https://arxiv.org/html/2608.19914#bib.bib22), 23 (https://arxiv.org/html/2608.19914#bib.bib23)\]无法提供的保证。Wasserstein DRO的基础、对偶理论、易处理的重构和有限样本性能保证已被深入发展\[24 (https://arxiv.org/html/2608.19914#bib.bib24)\]，该框架已应用于广泛的统计学习问题，包括逻辑回归\[27 (https://arxiv.org/html/2608.19914#bib.bib27)\]和对抗鲁棒训练\[28 (https://arxiv.org/html/2608.19914#bib.bib28)\]。最近，Wasserstein DRO已专门应用于从平滑信号估计图拉普拉斯矩阵\[29 (https://arxiv.org/html/2608.19914#bib.bib29)\]，证明了当目标域样本有限时，分布鲁棒性在图恢复准确性上带来了可衡量的改进。

这些发展集中于单源设置，其中所有观测被假定来自一个底层分布。受此研究推动，本文将Wasserstein分布鲁棒性从单源扩展到多源场景，其中跨多个相关但异构域收集的信号必须协调为一个鲁棒估计器。这种扩展带来了自身的挑战：异构源不能直接池化而不引入混合偏差，模糊集本身也必须从多个经验分布联合构建，而不是以单个为中心，这要求在有效施加鲁棒性之前，需要一种原理性机制来聚合异构源信息。

许多高影响力的图学习应用都具有一个目标域，其信号样本难以或无法以足够数量收集，而多个相关但异构的源域则提供丰富的数据。在功能性神经影像学中，小型采集站点的罕见临床队列（如ABIDE I联盟中的CMU站点\[30 (https://arxiv.org/html/2608.19914#bib.bib30)\]）构成目标域，而在不同扫描站点、采用不同成像协议进行的大型研究中获得的数据则作为源域，引发特定站点的分布偏移，这在脑连接组学文献中有充分记载\[31 (https://arxiv.org/html/2608.19914#bib.bib31)\]。类似的多源配置出现在分布式传感器网络（具有不同硬件特性的传感器监测共享的物理现象）、临床联邦学习（医院间的数据异构性排除了简单聚合）以及社交网络分析（特定平台的行为规范区分了源域和目标域的信号统计）中。

迁移学习文献早已认识到，通过将所有观测池化为单一经验分布来聚合异构源数据会引入*混合偏差*\[32 (https://arxiv.org/html/2608.19914#bib.bib32), 33 (https://arxiv.org/html/2608.19914#bib.bib33)\]，其大小随源间差异增长，并且从此类有偏标称分布构建共享模型会导致目标域性能系统性下降\[34 (https://arxiv.org/html/2608.19914#bib.bib34)\]。*最优传输*理论\[35 (https://arxiv.org/html/2608.19914#bib.bib35)\]提供了多源分布聚合的原理性方法：*Wasserstein重心*\[36 (https://arxiv.org/html/2608.19914#bib.bib36)\]在Wasserstein度量空间中定义了一系列分布的Fréchet均值，并产生保留每个源内在几何结构的共识表示，这与混合分布固有的协方差膨胀形成鲜明对比。高效的Wasserstein重心计算算法\[37 (https://arxiv.org/html/2608.19914#bib.bib37), 38 (https://arxiv.org/html/2608.19914#bib.bib38)\]以及关联重心与源二阶矩的Gelbrich下界\[39 (https://arxiv.org/html/2608.19914#bib.bib39)\]使得该结构在实际图学习问题的规模上计算可行。最优传输也通过几何对齐源和目标分布在域适应方面证明富有成效\[40 (https://arxiv.org/html/2608.19914#bib.bib40)\]；本工作利用其互补作用，将源分布融合成结构合理的标称分布，用于鲁棒图估计。

尽管有明确的实际动机，多源学习、Wasserstein分布鲁棒性和平滑信号图拓扑推断的交叉点在很大程度上尚未探索。另一个挑战是联合校准任何基于WDRO的图学习框架中固有的多个交互超参数：模糊集半径确定分布鲁棒性程度；稀疏性正则化系数控制图密度；增广拉格朗日惩罚控制算法收敛；而重心融合权重调节每个源域的相对贡献。这些参数非线性交互，无法单独校准。在多源场景中，对所得联合参数空间进行传统的交叉验证计算上难以承受，而基于集中不等式的半径选择虽然具有理论动机，但本质上是保守的，并忽略了参数之间的相互耦合。因此，强烈需要一个原理性的、端到端可训练的框架，同时解决多源融合、分布鲁棒性和自动超参数校准问题。

算法展开——一种将优化算法的迭代映射到神经网络层上，同时将算法参数视为可学习变量的技术\[41 (https://arxiv.org/html/2608.19914#bib.bib41)\]——为超参数校准挑战提供了令人信服的解决方案。通过将迭代求解器嵌入可微架构，并在图-信号对的监督语料上端到端训练，所有参数可以通过反向传播联合校准，以任何顺序或网格搜索策略根本无法捕捉的方式捕获其相互作用。由此产生的展开网络保留了完全的算法可解释性，每一层执行精确指定的近端、特征分解或对偶上升子步骤，同时获得了固定参数求解器所不具备的数据自适应校准能力。该范式已成功应用于压缩感知磁共振成像（通过深度ADMM-Net\[42 (https://arxiv.org/html/2608.19914#bib.bib42)\]），以及稀疏图恢复（通过GLAD\[43 (https://arxiv.org/html/2608.19914#bib.bib43)\]）。