SNI-GNN：SmartNIC辅助的全图GNN训练与网内嵌入预测

arXiv:2608.06441v1 公告类型：新 摘要：全图GNN训练能够提供高精度，但由于节点间嵌入交换量大且不规则，在多服务器集群上的扩展性较差。我们提出了SNI-GNN，一种SmartNIC辅助的全图训练系统，通过在网络内预测远端嵌入来减少通信，同时保持精度。SNI-GNN在SmartNIC上部署轻量级线性趋势预测器来优化缓存的历史嵌入，并结合基于重要性的边界节点采样策略和具有中间结果重用的异步DPU--GPU数据流水线。我们提供了误差与收敛界，表明在二阶动态有界的情况下，预测器偏差仍受控，并能在非精确梯度下实现标准的非凸收敛。SNI-GNN已在NVIDIA BlueField-3上实现，与最先进的全图系统集成，将通信量减少21--45\%，在BNS-GCN上实现1.3--3.6$\times$的端到端加速，与基线SANCUS相比最高可达1.29$\times$，精度损失$\leq 0.01$，并且能在边数高达数千万的图上高效扩展到16个GPU。这些结果表明，基于SmartNIC的网络内预测是分区和压缩技术的实用补充，可用于大规模通信高效的全图GNN训练。

# SNI-GNN：基于智能网卡的全图GNN训练与网内嵌入预测

Source: https://arxiv.org/html/2608.06441

###### 摘要

全图GNN训练具有高精度，但在多服务器集群上因大量、不规则的节点间嵌入交换而扩展性差。我们提出了SNI-GNN，一个利用智能网卡辅助的全图训练系统，通过在网络内预测远端嵌入来减少通信同时保持精度。SNI-GNN在SmartNIC上部署了一个轻量级线性趋势预测器来精炼缓存的歷史嵌入，并结合基于重要性的边界节点采样策略和带中间结果复用的异步DPU–GPU数据流水线。我们给出了误差和收敛界，表明在受