时态分布偏移下的域自适应气候降尺度
摘要
本文研究了基于深度学习的气候降尺度中的时态分布外偏移问题,并提出了一种域自适应框架,该框架结合了监督重建与域对齐,以在非平稳条件下改进高分辨率气候预测。
arXiv:2607.05645v1 Announce Type: new
摘要:基于深度学习的气候降尺度旨在从历史低分辨率(LR)和高分辨率(HR)气候数据中学习关系,以生成高分辨率气候预测。然而,该设置面临时态分布外(OOD)挑战:基于历史数据训练的模型通常应用于未来预测,而未来预测的分布可能与训练时期存在显著差异。本研究利用成对的LR-HR模型模拟,研究了美国大陆日温度降尺度的时态分布外偏移。我们提出了一种时态域自适应降尺度框架,该框架结合了历史数据上的监督HR重建以及历史与未来气候分布之间的域对齐。跨未来验证期的实验表明,所提出的域自适应模型始终优于统计和基于深度学习的偏差校正方法,且在时态分布偏移最强时增益最大。空间分析表明,在高海拔和地形复杂区域改进更为显著,且与HR目标的时空相关性更高。极端分析表明,相对于非自适应模型,域自适应还降低了上尾温度偏差。这些结果表明,时态域自适应能够提高非平稳气候条件下高分辨率气候预测的鲁棒性。
查看缓存全文
缓存时间: 2026/07/08 04:44
# 面向时间分布偏移的领域自适应气候降尺度 来源:https://arxiv.org/html/2607.05645 Nishant YadavMicrosoftAuroop R\. Ganguly可持续性与数据科学实验室,东北大学AI for Climate and Sustainability,体验式人工智能研究所,东北大学 ###### 摘要 基于深度学习的气候降尺度旨在从历史低分辨率(LR)和高分辨率(HR)气候数据中学习关系,以生成高分辨率气候预测。然而,这种设定面临时间上的分布外(OOD)挑战:基于历史数据训练的模型通常被应用于未来预测,而未来预测的分布可能与训练时期存在显著差异。本研究利用配对的LR-HR模型模拟,针对美国大陆的日温度降尺度问题,研究了时间OOD偏移。我们提出了一种时间领域自适应降尺度框架,该框架结合了基于历史数据的有监督高分辨率重建,以及历史与未来气候分布之间的领域对齐。在多个未来验证期上的实验表明,所提出的领域自适应模型始终优于统计和基于深度学习的偏差校正方法,且当时间分布偏移最强时,增益最大。空间分析表明,在高海拔和地形复杂区域,改进更为显著,且与高分辨率目标之间的时空相关性更高。极端值分析显示,与非自适应模型相比,领域自适应也降低了上尾温度偏差。这些结果表明,在非平稳气候条件下,时间领域自适应能够提高高分辨率气候预测的鲁棒性。 ## 1 引言 全球气候模型(GCM)是理解地球系统、模拟历史气候变率以及在不同强迫情景下预测未来气候变化的重要工具。尽管地球系统表征有所进步,但在当前一代耦合模式比较计划(CMIP)中,GCM对于许多区域和地方应用而言仍然过于粗糙,其水平网格间距通常为数十到数百公里[18 (https://arxiv.org/html/2607.05645#bib.bib1),13 (https://arxiv.org/html/2607.05645#bib.bib2)]。在这些分辨率下,与地形、海岸线、海陆对比以及未解析的次网格尺度物理过程相关的精细尺度效应无法被显式表示,而必须通过参数化进行近似,这可能会引入偏差并平滑局地气候变率[13 (https://arxiv.org/html/2607.05645#bib.bib2),56 (https://arxiv.org/html/2607.05645#bib.bib3)]。因此,降尺度方法被开发出来,以弥合低分辨率(LR)GCM输出与区域影响评估所需的高分辨率(HR)气候信息之间的尺度差距[32 (https://arxiv.org/html/2607.05645#bib.bib8),79 (https://arxiv.org/html/2607.05645#bib.bib10)]。这些方法通常分为动力降尺度和统计降尺度。动力降尺度利用区域气候模型(RCM)通过高分辨率物理模拟来细化全球模型输出[22 (https://arxiv.org/html/2607.05645#bib.bib9),21 (https://arxiv.org/html/2607.05645#bib.bib5),41 (https://arxiv.org/html/2607.05645#bib.bib6)]。RCM的一个主要优点是保留了区域气候动力的过程表征,包括与地形、地表属性和海岸线的相互作用[2 (https://arxiv.org/html/2607.05645#bib.bib11)]。然而,RCM计算成本高昂,且难以在大规模集合、排放情景、长模拟周期和复杂模型配置中扩展。其预测也受到多种不确定性来源的影响,包括内部气候变率、情景不确定性以及从驱动GCM继承的系统性误差[2 (https://arxiv.org/html/2607.05645#bib.bib11),26 (https://arxiv.org/html/2607.05645#bib.bib12)]。相比之下,统计降尺度推断粗尺度预测因子与细尺度气候观测或模拟之间的经验关系[79 (https://arxiv.org/html/2607.05645#bib.bib10)]。经典方法包括基于回归的模型[80 (https://arxiv.org/html/2607.05645#bib.bib4)]、典型相关分析[72 (https://arxiv.org/html/2607.05645#bib.bib15)]、类比方法[85 (https://arxiv.org/html/2607.05645#bib.bib16),44 (https://arxiv.org/html/2607.05645#bib.bib17)],以及偏差校正或偏差校正空间降尺度方法[44 (https://arxiv.org/html/2607.05645#bib.bib17),11 (https://arxiv.org/html/2607.05645#bib.bib18),24 (https://arxiv.org/html/2607.05645#bib.bib19)]。这些方法计算效率高,但其可靠性受到平稳性假设、对预测因子选择和观测质量的敏感性、难以保持空间和时间依赖性以及极端值表征较弱等限制[80 (https://arxiv.org/html/2607.05645#bib.bib4),31 (https://arxiv.org/html/2607.05645#bib.bib7),42 (https://arxiv.org/html/2607.05645#bib.bib20),28 (https://arxiv.org/html/2607.05645#bib.bib21)]。这些局限性促使了数据驱动降尺度方法的发展,这些方法可以在结合高分辨率地理信息的同时,从粗尺度气候域中学习精细尺度映射。机器学习(ML)通过利用配对观测和模拟,从低分辨率气候预测因子中学习非线性、空间结构化的映射到高分辨率目标场,从而扩展了统计降尺度。许多近期方法将降尺度视为深度学习(DL)和计算机视觉中的超分辨率问题,其中粗尺度气候场被类比为低分辨率图像,模型学习重建相应高分辨率场中缺失的精细尺度结构[70 (https://arxiv.org/html/2607.05645#bib.bib14),59 (https://arxiv.org/html/2607.05645#bib.bib22),8 (https://arxiv.org/html/2607.05645#bib.bib23)]。在典型的超分辨率架构中,低分辨率输入通过特征提取层进行编码,通过非线性映射模块(如残差卷积)进行变换,然后上采样至高分辨率网格。根据目标变量的不同,模型可以利用低分辨率温度、降水、风、气压和其他大气场,以及高分辨率辅助变量(如海拔和海陆掩码),来指导地形驱动的梯度、海岸效应和其他局地异质性的重建[70 (https://arxiv.org/html/2607.05645#bib.bib14),40 (https://arxiv.org/html/2607.05645#bib.bib26),73 (https://arxiv.org/html/2607.05645#bib.bib24),71 (https://arxiv.org/html/2607.05645#bib.bib25)]。更近期的创新调整了先进的图像超分辨率架构,包括基于Transformer的模型和生成模型(如条件生成对抗网络(GAN)和扩散模型),以更好地捕捉多尺度空间依赖性,锐化精细尺度模式,并表征未解析次网格变率中的随机不确定性[62 (https://arxiv.org/html/2607.05645#bib.bib27),3 (https://arxiv.org/html/2607.05645#bib.bib28),78 (https://arxiv.org/html/2607.05645#bib.bib29),84 (https://arxiv.org/html/2607.05645#bib.bib30)]。 基于深度学习的降尺度面临的一个关键剩余挑战是气候变化下的时间分布外(OOD)偏移。大多数降尺度模型在历史低分辨率-高分辨率配对数据上训练,然后应用于未来气候预测,这隐含地假设粗尺度预测因子与细尺度目标之间学习到的关系在历史训练期之外仍然有效。然而,人为变暖可能改变预测因子和目标的边缘分布,改变极端事件的频率,并创造无类比的气候状态,使得未来预测成为一个非平稳的目标领域,而不是训练分布的简单延伸[55 (https://arxiv.org/html/2607.05645#bib.bib31),36 (https://arxiv.org/html/2607.05645#bib.bib32),25 (https://arxiv.org/html/2607.05645#bib.bib35)]。近期研究已开始直接审视这一问题,表明深度学习模型在某些情况下可以产生合理的平均气候变化信号,但仍可能存在外推伪影、跨GCM迁移能力差以及未来极端值的大误差[9 (https://arxiv.org/html/2607.05645#bib.bib33),29 (https://arxiv.org/html/2607.05645#bib.bib36)]。已经提出了几种方法来提高鲁棒性,包括结合深度学习的趋势保持偏差校正、物理约束降尺度、概率生成模型以及多数据集预训练以提高迁移能力[1 (https://arxiv.org/html/2607.05645#bib.bib37),53 (https://arxiv.org/html/2607.05645#bib.bib34),17 (https://arxiv.org/html/2607.05645#bib.bib39),74 (https://arxiv.org/html/2607.05645#bib.bib38),51 (https://arxiv.org/html/2607.05645#bib.bib40)]。一个有前景的方向是将历史到未来的降尺度视为一个领域自适应问题,这是迁移学习的一个分支,适用于模型在一个数据分布上训练后必须泛化到另一个分布的情况。领域自适应在计算机视觉中已被广泛研究,其中在一个有标注的源域上训练的机器学习模型被适应于目标域,其分布与训练数据不同。领域自适应方法不是仅依赖有监督的微调,而是显式地减少源域和目标域特征分布之间的差异。常见策略包括矩匹配损失,如最大均值差异(MMD)[69 (https://arxiv.org/html/2607.05645#bib.bib43)]和相关对齐[67 (https://arxiv.org/html/2607.05645#bib.bib44)],它们对齐源和目标特征统计量;以及对抗方法,如领域对抗神经网络(DANN)[20 (https://arxiv.org/html/2607.05645#bib.bib41)],其中领域分类器鼓励编码器学习对预测任务有用但对领域身份不敏感的特征[68 (https://arxiv.org/html/2607.05645#bib.bib42)]。除了传统的计算机视觉,领域自适应也已应用于地球观测任务,包括土地覆盖分类和作物制图[43 (https://arxiv.org/html/2607.05645#bib.bib47),46 (https://arxiv.org/html/2607.05645#bib.bib46),75 (https://arxiv.org/html/2607.05645#bib.bib48),12 (https://arxiv.org/html/2607.05645#bib.bib45)]。这个框架非常适合气候降尺度,因为历史观测和模拟可以被视为一个有标注的源域,而未来预测代表一个具有不同热力学条件的时间偏移目标域。在实践中,降尺度模型可以在有标注的历史低分辨率-高分辨率配对数据上训练,同时利用无标签的未来低分辨率场通过领域自适应来对齐源和目标表征。对于时间OOD降尺度,领域自适应提供了一种减少历史-未来分布偏移的方法,同时保留了从大尺度气候预测因子到精细尺度区域结构的物理上有意义的映射。在本研究中,我们探索了面向时间分布偏移的领域自适应深度学习气候降尺度。为了解决历史与未来气候条件之间的非平稳性,我们研究了领域自适应是否能够提高基于深度学习的降尺度模型在历史训练期之外的迁移能力。通过鼓励模型学习对时间领域偏移不那么敏感的表征,这种方法旨在支持在变化气候条件下更可靠的高分辨率气候预测。 ## 2 数据与预处理 本研究使用了来自三个配对GCM-RCM模拟的日近地表气温:CanESM2-RCA4[5 (https://arxiv.org/html/2607.05645#bib.bib74),61 (https://arxiv.org/html/2607.05645#bib.bib76)]、CanESM2-CanRCM4[63 (https://arxiv.org/html/2607.05645#bib.bib77)]和EC-EARTH-RCA4[27 (https://arxiv.org/html/2607.05645#bib.bib75)]。我们选择这三个配对数据集,以评估所提出方法在RCM及其驱动GCM之间存在不同偏差的数据集上的稳定性。对于每个配对,低分辨率GCM场用作预测因子,相应的高分辨率RCM场用作降尺度目标。与完美模型框架(其中低分辨率输入直接来自高分辨率目标)不同,这种GCM-RCM配置构成了一个非完美模型框架。因此,降尺度模型必须考虑配对数据集之间的偏差,这使得这是一个更具挑战性的降尺度任务[55 (https://arxiv.org/html/2607.05645#bib.bib31),17 (https://arxiv.org/html/2607.05645#bib.bib39),19 (https://arxiv.org/html/2607.05645#bib.bib67)]。GCM数据来自地球系统网格联盟(ESGF)[14 (https://arxiv.org/html/2607.05645#bib.bib51)]。RCM数据来自协调区域气候降尺度实验(CORDEX)北美NAM-44i区域[57 (https://arxiv.org/html/2607.05645#bib.bib52)]。我们使用原始的CORDEX输出,未进行预应用的空间或时间偏差校正。研究区域以美国本土(CONUS)为中心,边界为24–50°N和125–66°W。GCM和RCM场首先被裁剪到研究区域。原始CORDEX RCM输出在原生NAM-44i旋转极坐标网格上(约0.44°或50 km),通过双线性插值重采样到规则的0.5°经纬度网格。GCM场从其原生模型网格插值到一个共同的2.0°低分辨率网格。然后修剪高分辨率RCM网格,使得两个空间维度都能被降尺度因子4整除,从而产生网格尺寸分别为13×29和52×116的配对低分辨率-高分辨率样本。模型实验使用1951–2099年期间。历史模拟使用1951–2005年,2006–2099年使用RCP8.5高排放情景[58 (https://arxiv.org/html/2607.05645#bib.bib54)]。选择此情景是为了增加历史训练期与未来评估期之间的分布偏移。所有GCM和RCM数据集均选择"r1i1p1"集合成员。辅助地理信息包括海陆掩码和海拔。海陆掩码源自有效陆地像素,而海拔取自参数-海拔回归独立坡度模型(PRISM)数据集[15 (https://arxiv.org/html/2607.05645#bib.bib53)],并从其原始4 km网格插值到高分辨率RCM网格。海洋或无效像素填充为零,并在低分辨率和高分辨率场中一致地进行掩码处理。 ## 3 问题形式化 令\(r\)表示本研究中使用的空间降尺度因子。对于第\(k\)天,令\(\mathbf{x}_k \in \mathbb{R}^{1 \times h \times w}\)表示低分辨率GCM场,\(\mathbf{y}_k \in \mathbb{R}^{1 \times H \times W}\)表示相应的高分辨率RCM场,其中\(H = rh\)且\(W = rw\)。降尺度任务是学习一个参数化映射 \(\hat{\mathbf{y}}_k = f_\theta(\mathbf{x}_k)\),其中\(\hat{\mathbf{y}}_k\)是预测的高分辨率场,\(f_\theta\)是降尺度模型,\(\theta\)表示可训练的模型参数。对于历史时期,高分辨率场被用作真实值并用于计算高分辨率重建损失;因此,它被视为有标注的源域,\(\mathcal{D}_S = \{(\mathbf{x}_i^S, \mathbf{y}_i^S)\}_{i=1}^{N_S}\),其中\(S\)表示源域样本,\(i\)索引历史训练天数,\(N_S\)是相似文章
鲁棒最优传输引导的生成式残差域适应:时间域偏移下的共享单车需求预测
本文提出了Gen-ROTDA,一种鲁棒最优传输引导的残差域适应框架,用于时间域偏移下的共享单车需求预测,与基线方法相比,在稳定性与准确性上均有提升,尤其适用于含噪目标数据。
关注残差缺口:真实世界偏差下的概率降尺度
本文介绍了ReMatch方法,该方法通过PCA空间中的最优传输将训练残差分布与测试时分布对齐,以减轻概率降尺度中的偏差,从而获得更好的校准和离散度。
击中移动目标:持续分布漂移下AI文本检测的测试时自适应
本文提出了一种基于半监督学习的测试时自适应方法,用于AI文本检测,能够适应来自新LLM、对抗性人工化和时间漂移的持续分布变化,性能优于最先进的监督式检测器。
PIMSM: 物理信息驱动的多尺度Mamba:分布偏移下稳定的神经表示
本文提出物理信息驱动的多尺度Mamba(PIMSM),这是一种状态空间架构,它将模型记忆与物理时间尺度对齐,以提升在科学时间序列分布偏移下的鲁棒性,并在fMRI和天气预报任务上展示了改进。
漂移发生:关于神经架构对时间分布偏移鲁棒性的实证研究
本文介绍了一项实证研究,比较不同神经架构(MLPs、CNNs、RNNs、预训练transformer)在图像和文本领域的时间分布偏移下的性能退化,发现利用局部特征的模型退化最快,而预训练编码器的漂移较为缓慢。