大气扩散引导的时空Transformer用于核辐射预测

# 大气扩散引导的时空Transformer用于核辐射预测
来源：https://arxiv.org/html/2607.24774

滕飞·吕，韩金东，刘浩  
滕飞·吕任职于香港科技大学（广州）人工智能学域及香港科技大学，中国广州/香港特别行政区（邮箱: [email protected]）。  
韩金东任职于山东大学人工智能学院，中国济南（邮箱: [email protected]）。  
刘浩任职于香港科技大学（广州）人工智能学域及香港科技大学计算机科学与工程系，中国广州/香港特别行政区（邮箱: [email protected]）。  
通讯作者：刘浩。

###### 摘要

核辐射是原子衰变过程中释放的能量，对公众健康和环境构成持续风险。自福岛事故及近期处理水排放开始以来，人们的担忧有增无减。现代监测网络如今在数千个站点记录辐射水平及伴随的天气条件，为全国范围内的预测开辟了道路，这些预测可用于应急响应、农业咨询和日常公共安全决策。然而，将海量监测数据转化为可靠预测面临三大挑战。首先，每个站点的时间序列高度非平稳，受放射性衰变、天气变化和人为干预影响。其次，监测站点空间分布极不均匀。日本约78%的站点集中在不到6%的国土面积上，主要聚集在福岛附近，这违背了标准图模型的假设。第三，辐射通过大气传输过程与风、温度、湿度等异质环境因素共同演化，纯数据驱动模型难以仅从观测中捕捉这些过程。在本研究中，我们提出**NRFormer+**，一种用于全国核辐射预测的时空Transformer。NRFormer+将非平稳时间注意力与密度自适应空间注意力相结合，并引入新的大气扩散模块，该模块可估计气象如何驱动辐射扩散，并将这一物理信号作为架构先验注入网络。我们构建了两个互补基准数据集**Japan-4H**和**Japan-1D**，涵盖四年间3,627个辐射站和228个气象站的观测数据。NRFormer+在两个数据集上对所有13个基线模型均实现了最先进的预测精度，在可比推理延迟下，突发变化MAE相对于最强基线降低了高达19.1%。我们的代码和数据集已公开，地址为：https://github.com/tfeilyu/NRFormer_Plus。

## I 引言

核能作为清洁、可调度的电力来源已有半个多世纪的历史，但其伴随着低概率、高后果的放射性释放风险。1986年切尔诺贝利事故导致放射性核素扩散至欧洲大陆[1]，而2011年福岛第一核电站事故则污染了日本东北部数千平方公里的土壤、海洋生态系统和食物链[32]。由于主要长寿命污染物的物理半衰期约为30年，此类事件的放射生态影响将持续数代，而近期福岛处理水排放的启动再次引发了公众和监管机构对长期辐射监测的关注。

为此，许多国家已部署密集的监测站网络。然而，仅靠原始测量数据远远不够。政府和公众日益需要**预测**未来的辐射水平，以支持疏散规划、农业咨询和防护设备预置——即使是多出几小时的预警时间，也能显著减少社会经济损失。

图1：日本全国核辐射预测。(a) 监测站空间分布；高风险区域（即核电站附近）站点密度远高于其他区域。(b) 代表性站点的辐射水平随时间变化。

本文研究**全国核辐射预测**任务，即根据辐射、气象和地理观测数据的异构混合，在全国范围内生成站点级别的多步预测。图1展示了日本的场景，数千个伽马辐射监测站的部署密度由距核设施的远近决定，而非均匀的地理覆盖。站点间的辐射扩散受大气环流支配[24,33]，其中风将放射性核素跨区域输送，而温度和湿度则影响混合、沉降和清除过程。

现有方法大多不适用于这一场景。HYSPLIT[31]和FLEXPART[34]等操作化大气扩散求解器模拟辐射的机理传输。在前向模式下，它们需要指定的排放源；尽管其后向和数据同化变体可从稀疏观测中重建未知源[35]，但这些变体旨在回溯离散释放事件，且任何模式都需要密集的气象场和大量计算，不适合连续的全站点级别预测。相反，通用的时空图神经网络[42,41,8]和时间序列Transformer[46,18,19]已在交通和空气质量等相邻领域建立了强基线[17]，但前者从数据中推断连接性而缺乏显式传输算子，后者仅建模时间动态而无空间结构。即使是物理引导的神经模型——如近期在空气质量网络中将平流扩散先验嵌入站点图的工作[9]——也假设监测覆盖密集且大致均匀，尚未适配到全国范围、密度失衡且气象站点稀疏共置的辐射场景。弥合这一差距需要一种将数据驱动的灵活性与大气传输的物理归纳偏置相结合的模型，且直接从稀疏站点观测中学习。

**问题的数据驱动刻画。**

由于缺乏大规模、公开可用、分析就绪的基准数据集，相关进展受限。因此，我们基于日本核监管局四年多（2021年3月至2025年5月）的10分钟读数，构建了**Japan-1D**和**Japan-4H**两个基准数据集。经过严格质量控制后，覆盖3,627个监测站，并与228个共置的NOAA-ISD气象站（风速、风向、气温、露点）对齐。从质量控制到双分辨率聚合的构建流程本身也是一项成果，对该数据集的定量分析（第III节）揭示了三个结构性的挑战，这些挑战共同使得现成的STGNN和Transformer难以胜任。

图2：空间分布失衡问题的实证研究。(1) Japan-1D的全站点分布。(2) 从Japan-1D均匀抽样的站点分布。(3) GWN[42]在日本数据集上的预测性能，其中GWN-w/o SPM表示移除空间传播模块的变体。去除空间传播**提升了**在全（失衡）数据集上的精度，表明标准图算子在极端站点密度失衡下反而是有害的。

**挑战1：非平稳时间模式。** 辐射序列受人为干预、电站运行事件和长寿命同位素缓慢衰变的共同影响，产生显著的分布偏移。在Japan-4H上，联合ADF和KPSS检验表明约87%的站点为非平稳（第III-D节），平均辐射值每年下降约3%，大致追踪Cs-137衰变和环境损失，并叠加在强烈的年度周期上。假设局部平稳性的时间模块（包括许多基于CNN和RNN的预测器[25]）在此类偏移下性能下降，即使是近期基于归一化的Transformer[11,20]也并非为具有衰变驱动多年趋势的序列而设计。因此，一个有效的模型必须能够吸收这种分布偏移，同时对突发事件保持敏感。

**挑战2：严重失衡的空间分布。** 日本的站点密度由感知风险而非地理覆盖决定。约78%的3,627个站点位于福岛县及其三个邻县（不到国土面积的6%），因此最近邻距离高度偏斜（第III-C节）。在此类图上进行标准消息传递会导致密集簇过平滑、稀疏区域信息不足。如图2所示，去除Graph WaveNet (GWN)[42]的空间传播模块实际上**提升**了在全、失衡的Japan-1D数据集上的精度，而在均匀抽样子集上则**降低**精度——这直接证明了一刀切的图算子在失衡条件下是有害的。模型必须允许空间信息根据站点密度流动，而非通过统一的图算子。

**挑战3：基于物理的异质环境建模。** 辐射与气象协变量共同演化，这些协变量并非可互换的特征，而是支配大气传输的物理量。在Japan-4H上，站点平均风速与辐射残差呈现微弱但位置一致的互相关峰值（16小时滞后，|ρmax|=0.16），表明存在多小时的平流时间尺度而非瞬时混合（第III-E节）。扩散特征也依赖于风。拟合一个各向同性、与风无关的空间Laplacian于辐射增量，我们发现扩散强度随风速单调递减（ρs=-1.00），因此这种“盲风”算子在风使扩散变为各向异性时，只能捕捉到递减的增量份额。近期的物理信息网络[26,27,2]和物理感知天气模型[14,23]表明注入此类先验是可行的，但尚无全国辐射预测模型这样做。因此，模型必须通过基于物理的归纳偏置来融合气象背景，实现风调节的传输。

受这些数据驱动观察的启发，我们提出了**NRFormer+**，一种用于全国核辐射预测的时空Transformer，它显著扩展了我们的会议模型NRFormer[21]，并将三个核心模块集成到单个端到端管道中。**非平稳时间注意力**模块将实例级可逆归一化与逐点自注意力相结合，以消除分布偏移同时保持对突发事件的敏感性。**密度自适应空间注意力**模块结合了宏观视角与邻近约束视角，使得信息在监测网络的密集区域和稀疏区域以不同方式流动。在模型中心，新的**物理引导大气扩散模块**为每个站点估计一个气象条件依赖的扩散系数，近似描述辐射如何在非规则监测图上从高浓度区域流向邻近的低浓度区域，并将这一物理信号注入Transformer管道，使学习的表示与大气传输保持一致。这三个模块由增强的气象编码器（将风（平流）和热力（稳定性和沉降）变量沿不同路径路由）、一年中的第几天季节嵌入（捕捉年周期和缓慢背景衰变）、更深的辐射-位置交叉特征编码器，以及一个在预测前结合辐射、时间和空间嵌入的三路融合层所支持。

本文贡献如下：
- • 我们提出了**物理引导大气扩散模块**，为每个站点估计气象条件依赖的扩散系数，并将空间Laplacian传输信号作为架构归纳偏置注入Transformer。据我们所知，这是首个用于全国辐射预测的、学习的风调制传输先验，消融实验表明其是精度的最大贡献因素之一。
- • 我们构建了**NRFormer+**，一种时空Transformer，将该扩散先验与非平稳时间注意力和密度自适应空间注意力相结合，适用于严重失衡的传感器网络。它将全国辐射预测转化为在学习的传输先验下的图结构预测问题。
- • 我们构建并发布了**Japan-4H**和**Japan-1D**，两个分析就绪的基准数据集，涵盖四年（2021年3月至2025年5月）的3,627个辐射站（经严格质量控制）和228个共置气象站，据我们所知是公开可用的最大全国辐射预测语料库，并附带完整的构建流程。
- • 定量数据工程分析确立了时间非平稳性、严重密度失衡和风调制传输特性，这些特性分别激发了NRFormer+的每个模块。与13个强基线相比，NRFormer+在两个数据集及所有预测步长上以可比延迟实现一致提升，突发变化MAE降低高达19.1%。

## II 预备知识

在本节中，我们介绍一些重要定义并正式定义核辐射预测问题。

###### 定义1 辐射水平。
辐射水平是用于量化环境中放射性物质浓度的数值。较高的辐射水平意味着人们将遭受日益严重的健康影响。实践中，辐射水平是通过对多种放射性物质测量值（包括α粒子、β粒子、中子粒子和γ射线）进行加权求和计算得出的。

###### 定义2 辐射监测网络。
辐射监测网络由一组监测站组成，记为G = (V, E)，其中V表