SimCast-S2S:一种通过气候模拟迁移学习实现高效亚季节性降水预报的生成模型
摘要
SimCast-S2S是一种用于概率性亚季节性降水预报的生成式潜扩散框架,它利用气候模拟的迁移学习,在性能上超越了深度学习基线模型,并与业务预报系统具备竞争力。
arXiv:2608.26594v1 公告类型:新
摘要:亚季节性到季节性降水预报具有重大的财务和社会影响,但由于预测信号弱、相关不确定性高以及业务系统为限制模拟保真度而产生的高昂计算成本,这仍然是一项挑战。我们介绍了SimCast-S2S,这是一个用于概率性S2S降水预报的生成式潜扩散框架,它解决了数据驱动预测中的三个主要瓶颈。首先,由于S2S预测需要量化不确定性,而不仅仅是确定性点预测,SimCast-S2S是首个在S2S预测中使用基于扩散的生成管道的数据驱动系统,能够有效地从潜在的条件分布中进行采样。其次,由于在物理空间中生成大量概率集合在计算上成本高昂,SimCast-S2S转而在由变分自编码器学习的紧凑潜空间中进行操作,从而实现了高效的大集合生成。第三,扩散模型通常需要大规模训练数据集;SimCast-S2S通过采用低秩适配的迁移学习克服了这一问题,先在大规模气候模拟集合上进行预训练,然后在有限的再分析数据上进行微调。在再分析数据上,SimCast-S2S的性能优于包括卷积神经网络和U-Net架构在内的深度学习基线模型。值得注意的是,尽管仅使用部分大气输入变量,且未进行后处理、偏差校正或定量化处理,SimCast-S2S仍然与ECMWF-S2S等最先进的业务系统保持竞争力,并且在许多情况下表现更优。这些结果表明,潜生成模型结合模拟到再分析的迁移学习,为数据驱动的概率性S2S降水预报提供了一条高效且可扩展的途径。
查看缓存全文
缓存时间: 2026/08/28 09:42
# SimCast-S2S:基于气候模拟迁移学习的高效次季节降水预测生成模型 来源:https://arxiv.org/html/2608.26594 Hiep V. Dang 所属机构:弗吉尼亚大学环境科学系,地址:美国弗吉尼亚州夏洛茨维尔市 邮箱:[[email protected]](mailto:) Antonios Mamalakis 所属机构:弗吉尼亚大学数据科学学院、环境科学系,地址:美国弗吉尼亚州夏洛茨维尔市 邮箱:[[email protected]](mailto:) ###### 摘要 次季节到季节(S2S)降水预测具有显著的财务与社会价值,但因其预测信号弱、不确定性高以及业务系统计算成本限制(导致模拟保真度受限)而一直面临挑战。本文提出SimCast-S2S——一种基于潜在扩散的生成式概率S2S降水预测框架,旨在解决数据驱动预测的三大瓶颈。首先,S2S预测需量化不确定性而非仅提供确定性点预测,SimCast-S2S成为首个采用扩散生成流程的S2S预测数据驱动系统,能有效采样底层条件分布。其次,由于在物理空间生成大规模概率集合计算成本高昂,SimCast-S2S转而在变分自编码器学习的紧凑潜在空间中操作,实现高效的大型集合生成。第三,扩散模型通常需要大规模训练数据,SimCast-S2S通过低秩自适应(LoRA)迁移学习克服此问题:先在气候模拟的大型集合上预训练,再在有限再分析数据上微调。在再分析数据测试中,SimCast-S2S优于卷积神经网络和U-Net架构等深度学习基线模型。值得注意的是,尽管仅使用部分大气输入变量且未进行后处理、偏差校正或校准,SimCast-S2S仍与ECMWF-S2S基准等最先进业务系统保持竞争力,并在许多情况下表现更优。这表明,潜在生成建模结合模拟到再分析的迁移学习,为数据驱动的概率S2S降水预测提供了高效可扩展的路径。 ††脚注:本研究源代码可通过以下链接获取:https://github.com/hiepdang-ml/SimCast-S2S ## 1 引言 次季节到季节(S2S)预测仍是气候科学最重要的挑战之一,因其涉及天气与气候时间尺度之间的过渡带(美国国家科学工程医学院,2016;Vitart等,2017;Pegion等,2019;Robertson等,2020;White及合作者,2022)。在短(天气)预报时效内,预测主要依赖大气初始状态,天气预报模型能在初始误差显著累积前以较高精度追踪风暴、锋面和环流模式的演变(Lorenz,1969;Bauer等,2015;Leutbecher和Palmer,2008)。在季节及更长时效内,预测重点从单一天气事件转向由海温、土壤湿度、积雪覆盖及其他陆海相互作用等气候变率所施加的缓慢变化边界条件,这些条件提供了可预报性来源(Palmer和Anderson,1994;Koster等,2010;Mariotti及合作者,2020;Merryfield及合作者,2020)。S2S预测通常针对未来3至6周,介于上述两个区间之间(美国国家科学工程医学院,2016;Vitart等,2017;Pegion等,2019;Robertson等,2020;White及合作者,2022),此时初始大气误差已大幅增长,而缓慢变率源尚未形成稳定预测信号。因此,预测技巧取决于模型能否捕捉大气动力学的多尺度变率与缓慢地球系统过程的混合特征(Zhang,2005;Baldwin和Dunkerton,2001;Koster等,2010;Mariotti及合作者,2020;Merryfield及合作者,2020;Richter等,2024)。 物理建模与计算能力的进展已使全球业务化S2S预测成为可能(Vitart等,2017;Vitart和Robertson,2018)。现代S2S预测的核心发展是集合预测系统(EPS)的应用(Toth和Kalnay,1993;Molteni等,1996;Buizza等,1999;Gneiting和Raftery,2005;Leutbecher和Palmer,2008;Bougeault等,2010;Swinbank等,2016;Palmer,2019;Vitart等,2017)。在混沌大气系统中,单一确定性预报通常不足(Lorenz,1969;Palmer,2000;Leutbecher和Palmer,2008)。因此,EPS通过扰动初始条件和物理过程生成多个预报成员(Toth和Kalnay,1993;Molteni等,1996;Buizza等,1999;Gneiting和Raftery,2005;Leutbecher和Palmer,2008;Palmer,2019)。此方法在S2S时效尤为重要,因预报误差常在大气非线性饱和前呈指数增长(Lorenz,1963;Lorenz,1969;Leith,1974;Leutbecher和Palmer,2008),而EPS可提供未来可能状态的概率描述。 欧洲中期天气预报中心(ECMWF)等业务中心现已发布长达46天的S2S集合预报,产品通常以相对于模式气候态的周距平形式呈现。EPS预报的价值在降水预测中尤为明显——降水是最难建模和预测的变量之一,它受对流、水汽输送、陆气反馈及热带变率等非线性过程强烈影响(Robertson等,2020)。广泛观测表明,环流、水汽输送和湿度场的小误差通常导致降水位置和强度的巨大偏差(Fritsch和Carbone,2004;Ebert和McBride,2000;Arakawa,2004)。预报中心通过后处理、校准、多模式集合和统计订正部分解决此问题(Vannitsem等,2021),但仍面临系统性模式偏差和高计算成本等重大限制(Bauer等,2015;Watt-Meyer等,2021;Ben-Bouallègue等,2024)。 统计与机器学习模型已成为传统物理预报系统的重要替代方案及补充途径(Rasp等,2020;Hwang等,2019;Dang和Nguyen,2026;Chen等,2024)。这些数据驱动模型能利用海量观测、再分析产品和动力模式输出,学习大气预测量与未来目标状态间的非线性关系。无需在每个预报步骤数值求解控制方程,机器学习模型可直接从数据中学习近似预报映射,实现推理阶段的快速高度并行预测。近期研究表明,在大型再分析数据集和多模式预报档案上训练的此类方法可改进S2S预报(Hwang等,2019;Chen等,2024)。此外,后文将展示在大量模拟气候数据上预训练的机器学习模型,可通过观测或再分析产品微调迁移至真实世界预报任务(参见Weyn等,2021;Nguyen等,2023b;Bodnar等,2025)。这种预训练策略有助于模型在适应观测气候系统前学习通用大气结构,相比仅用有限观测数据从头训练的模型可能提升预报技巧。 传统EPS输出计算成本高昂,因需重复执行扰动初始条件和物理过程的模式积分(Leutbecher和Palmer,2008;Buizza等,1999)。机器学习方法的一个前沿子类别——生成式AI,为概率S2S预报提供了框架。生成式模型旨在近似给定当前大尺度气候状态下未来大气状态的完整条件分布,训练后可高效抽取多个合理预报样本。这使其尤其适用于降水等预报不确定性强烈受非线性动力学影响的变量。近期基于扩散的预报系统表明,生成式模型能以远低于传统EPS的计算成本生成逼真的概率预报并模拟大型集合分布(Li等,2024;Price等,2025a)。 尽管前景广阔,生成式模型也存在重要局限。如前所述,纯数据驱动模型数据需求量大,需大规模训练数据推断大气动力学(Rasp等,2020;Dueben和Bauer,2018),而此类数据通常稀缺或有限,尤其在天气时间尺度之外。此外,不同生成式框架稳定性各异。例如生成对抗网络(GAN)广泛用于生成逼真样本(Goodfellow等,2014),但其对抗训练过程存在不稳定性、模式崩塌及对优化设置敏感等问题(Salimans等,2016;Mescheder等,2018)。编码器-解码器概率框架(包括变分自编码器相关模型)(Kingma和Welling,2014a)提供了更稳定的替代方案,已用于近年机器学习S2S预报系统。例如FuXi-S2S将编码器-解码器架构与学习潜在空间的扰动模块结合,在降水和出射长波辐射等选定变量上已证实优于ECMWF-S2S(Chen等,2024),但作者未评估模型捕获不确定性的能力。然而,此类模型仍需大量输入变量,导致训练成本高昂且可及性受限。 为应对上述挑战——即(i)刻画S2S不确定性需大规模预报集合;(ii)深度生成模型需大型训练数据集(尤其在弱预测信号和训练稳定性问题下);(iii)集合生成计算成本高昂,本文提出SimCast-S2S——一种基于扩散框架(Ho等,2020a;Song等,2021b)的高效生成模型。SimCast-S2S使用多个领域专用变分自编码器(VAE)将高维物理输入场压缩为低维高斯潜在表示(Kingma和Welling,2014a),随后在潜在空间训练紧凑扩散网络,将标准高斯噪声(以历史和当前大气状态为条件)映射至未来目标潜在表示。最终,独立解码器将生成的潜在表示映射回物理空间产生最终预报(详见方法部分)。此设计遵循潜在生成建模的核心思想:在压缩表示中操作可比原始高维空间直接生成大幅降低计算成本(Rombach等,2022a)。在实际应用中此计算优势显著:在标准A100 GPU上,生成一个集合成员约需12秒,不同集合成员可在多GPU间并行生成,因此预报速度随GPU数量线性扩展,生成(例如)100成员集合以更好刻画预报不确定性与重复运行...
相似文章
AirCast-SR: 基于潜在一致性扩散的公里尺度大气超分辨率基础模型
AirCast-SR 是一个基于扩散模型的基础模型,能够将全球AI天气预报从0.25°降尺度到1公里分辨率,每小时生成一次预报,可产生67小时预报,具有接近零偏差和结构真实感,同时在单个商用GPU上仅需数分钟即可完成推理。
FarSky:面向生成式小时内太阳预报的任务感知潜空间耦合
FarSky 是一种生成式预报框架,利用任务感知潜空间耦合和潜扩散模型,生成确定性和概率性的小时内太阳辐照度预报,预报技巧最多提升 11 个百分点,并具有更好的爬坡事件检测能力。
面向自回归动力系统预测的可扩展单步生成建模
本文介绍了 MeLISA,这是一种无需潜变量的自回归生成代理模型,用于预测高维物理动力学。该模型利用像素空间的 MeanFlow 实现高效的单步生成。与神经算子相比,MeLISA 在湍流基准测试中展现出更优越的长程统计精度和推理速度。
时态分布偏移下的域自适应气候降尺度
本文研究了基于深度学习的气候降尺度中的时态分布外偏移问题,并提出了一种域自适应框架,该框架结合了监督重建与域对齐,以在非平稳条件下改进高分辨率气候预测。
模拟体:用于近最优时间序列预测与推断的决策理论预训练
本文介绍了一个统一的决策理论预训练框架,用于基于神经网络的时间序列估计器,该框架在分层模拟上进行训练以逼近近最优决策规则。实验表明,所得估计器在合成和现实基准上均优于最大似然估计等传统方法。