评估基础模型在极端环境事件中的泛化能力：以加州野火PM2.5为例

# 评估基础模型在极端环境事件中的泛化能力：加州野火PM2.5案例研究  
来源：https://arxiv.org/html/2607.07951  

Yongcan Huang  
佐治亚大学工程学院，雅典，佐治亚州，美国；马里兰大学巴尔的摩分校信息系统系，巴尔的摩，马里兰州，美国；[email protected] (https://arxiv.org/html/2607.07951v1/mailto:[email protected])  

Li Jiang  
特里尼大学研究生与专业研究学院，安哥拉，印第安纳州，美国；[email protected] (https://arxiv.org/html/2607.07951v1/mailto:[email protected])  
通讯作者：[email protected]  

Ze Yu Liu  

###### 摘要  

野火烟雾事件会产生极端PM2.5浓度，对公共健康构成严重威胁，然而准确预测罕见的有害浓度峰值仍是一个根本性挑战。时间序列基础模型（TSFMs）——一种大型预训练模型，支持零样本推理和参数高效微调——在通用时间序列基准上表现强劲，但它们在极端分布外条件下的行为尚不明确。我们首次构建了系统性基准测试，在覆盖加利福尼亚州79个监测站点1,375次野火事件的12年（2013–2025）小时级PM2.5数据集上，比较了六种TSFM配置（零样本TimesFM、Chronos-2、Moirai-2和Time-MoE，以及Chronos-2和Time-MoE的LoRA微调变体）与完全训练的深度学习基线模型（LSTM、BiLSTM、Transformer）以及朴素的持久性参考模型。我们设计了逐事件留出（LOIO）交叉验证协议，用于评估模型对未见火灾事件的真实泛化能力，并使用平均绝对误差（MAE）、均方根误差（RMSE）以及美国环保署（EPA）空气质量指数（AQI）严重性阈值下的超标F1分数，对6小时、12小时和24小时预报范围进行评估。我们的结果揭示了一个清晰且一致的层级结构。完全训练的BiLSTM实现了最低的MAE（5.16 μg/m³）和每个AQI阈值下最高的超标F1分数，包括有害阈值（>225.5 μg/m³），其F1达到0.63，而任何基础模型最高仅为0.54。零样本TSFM在整体误差上优于朴素持久性模型，但优势有限，且零样本Chronos-2表现出严重的RMSE尾部不稳定性（23.4 μg/m³，R²为负），由零星的大幅度误差驱动。对每折训练事件进行LoRA微调显著改进了两个适配族，并基本修复了Chronos-2的不稳定性，但无论是零样本还是微调后的基础模型，在任何指标上均未超越训练的循环基线模型。这些发现挑战了“更大预训练模型在环境预测中普遍占优”的假设，并为野火空气质量预测提供了可行的部署指导。

**关键词：** PM2.5预测；野火烟雾；时间序列基础模型；逐事件留出；超标预测；LoRA微调；深度学习；空气质量。

## 1 引言

空气污染是21世纪最紧迫的环境与公共健康挑战之一。在各类大气污染物中，空气动力学直径小于等于2.5微米的颗粒物（PM2.5）因其能深入呼吸系统并进入血液，对健康构成特别严重的威胁[42](https://arxiv.org/html/2607.07951#bib.bib1)。野火已成为PM2.5日益重要的来源，尤其是在气候变化导致的长期干旱和气温升高背景下[8](https://arxiv.org/html/2607.07951#bib.bib3), [34](https://arxiv.org/html/2607.07951#bib.bib4)。与城市和工业源不同，野火烟雾会产生间歇性但极端的浓度峰值，持续数天并影响远在下风向的社区[18](https://arxiv.org/html/2607.07951#bib.bib5)：在我们的数据集中，小时读数可达1249 μg/m³，约为美国环保署（EPA）24小时标准（35 μg/m³）的35倍。对危险浓度的准确提前预警对于疏散命令、学校停课、医院应急准备等公共卫生决策至关重要，其中漏报的代价远高于误报。

基于物理的化学传输模型（如CMAQ和WRF-Chem）提供了烟雾传输的机理表征，但需要大量计算、排放清单和气象输入，限制了其实时应用[9](https://arxiv.org/html/2607.07951#bib.bib8), [15](https://arxiv.org/html/2607.07951#bib.bib9), [48](https://arxiv.org/html/2607.07951#bib.bib10)。因此，数据驱动的预测已成为主流替代方案：LSTM网络及其变体在统计方法上取得了显著改进[16](https://arxiv.org/html/2607.07951#bib.bib20), [23](https://arxiv.org/html/2607.07951#bib.bib23), [13](https://arxiv.org/html/2607.07951#bib.bib24)，而结合卷积、循环和注意力的混合架构现已成为PM2.5文献的核心[39](https://arxiv.org/html/2607.07951#bib.bib21), [46](https://arxiv.org/html/2607.07951#bib.bib30), [30](https://arxiv.org/html/2607.07951#bib.bib31), [7](https://arxiv.org/html/2607.07951#bib.bib32)。对于野火特定的PM2.5，集成深度学习实现了强大的空间预测[2](https://arxiv.org/html/2607.07951#bib.bib37)，但野火期间的浓度与常规城市排放差异巨大，以至于在环境数据上训练的模型会系统性低估最大暴露[43](https://arxiv.org/html/2607.07951#bib.bib39)。

尽管取得了这些进展，现有研究存在一个关键局限性：评估依赖于时间顺序的测试集划分或单站点设置，这两种方法都无法评估模型对未见野火事件的泛化能力。一个较新的范式转变来自时间序列基础模型（TSFMs），它们在大规模异构语料库上预训练，能够零样本预测未见序列，无需任务特定训练[11](https://arxiv.org/html/2607.07951#bib.bib43), [5](https://arxiv.org/html/2607.07951#bib.bib44), [33](https://arxiv.org/html/2607.07951#bib.bib42)。架构上，TSFMs涵盖解码器仅注意力（TimesFM）、基于token化语言模型骨干（Chronos）、掩码编码器通用预测器（Moirai）以及稀疏混合专家路由（Time-MoE, Moirai-MoE），其中不同专家可专门处理不同时间模式；多个模型家族还支持在有限目标数据可用时进行参数高效微调。由于预训练有望解决新火灾发生时缺乏事件特定历史数据的冷启动问题，TSFMs在概念上对野火空气质量预测具有吸引力。然而，尽管TSFMs在语言和天气预测中取得了成功[12](https://arxiv.org/html/2607.07951#bib.bib62), [21](https://arxiv.org/html/2607.07951#bib.bib63)，它们在空气质量领域仍基本未经测试，其通用的预测能力是否能扩展到野火PM2.5的极端、非平稳动态，以及轻量级微调能否有效缩小差距，仍是开放问题。

本研究通过控制基准测试，在逐事件留出协议下评估训练的深度学习基线和TSFMs对野火PM2.5的预测能力，其中整个火灾事件被保留为测试集。我们的设计考察了三个因素：(1) 建模范式：完全训练的基线（BiLSTM, LSTM, 仅编码器Transformer）与预训练TSFMs（四种零样本：TimesFM, Chronos-2, Moirai-2, Time-MoE；两种LoRA微调：Chronos-2, Time-MoE）；(2) AQI严重性层级：性能跨五个EPA 2024超标阈值（9.1, 35.5, 55.5, 125.5, 225.5 μg/m³）评估，以区分中等与极端浓度下的行为；(3) 预测水平：6、12、24小时，涵盖从短期预警到次日公共卫生规划的时间跨度，因为准确性通常随提前期增加而下降[48](https://arxiv.org/html/2607.07951#bib.bib10), [20](https://arxiv.org/html/2607.07951#bib.bib36)。所有实验共享相同的预处理、训练程序和评估指标。

我们做出以下贡献：

1. **基准与协议。** 我们发布了一个12年、79个站点的加州野火PM2.5基准（1,375个事件；173万小时记录），以及一个逐事件留出（LOIO）评估协议，该协议防止跨火灾事件的时间泄漏，并直接模拟预测新燃起火灾（无先验事件特定数据）PM2.5的运营关键场景。
2. **首个极端野火PM2.5 TSFM基准。** 据我们所知，这是首次对时间序列基础模型进行系统性评估，涵盖四种零样本和两种LoRA微调配置，与完全训练的深度学习基线进行对比，专门针对极端、间歇性的野火PM2.5，而非常规城市污染或基于LLM的空气质量管线。所有模型均在相同的单变量PM2.5输入上评估，以确保跨范式进行受控且架构公平的比较。
3. **一个反直觉的实证发现。** 完全训练的BiLSTM在所有预测水平上，无论是整体误差还是极端事件超标F1，都一致优于所有TSFM配置。具体而言：(i) 零样本TSFM在整体MAE上优于朴素持久性参考，但提升有限（5.56–5.92 vs. 6.44 μg/m³），且均未接近训练的循环基线，表明大规模通用语料库预训练仅微弱地转移到野火烟雾的重尾、非平稳动态；(ii) 在有害阈值（>225.5 μg/m³）上，BiLSTM的超标F1达到0.63，而零样本TSFM仅达到0.47–0.54，且零样本Chronos-2还表现出严重的RMSE尾部不稳定性（23.4 μg/m³，R²为负），这一现象在绝对误差指标中不可见；(iii) 对每折训练事件进行LoRA微调显著改进了两个适配族，并基本修复了Chronos-2的不稳定性，但微调变体仍未能超越BiLSTM或LSTM的任何指标，表明轻量级域内微调重新校准了幅度尺度，但未能注入控制极端事件超标的精细时间动态。
4. **部署指导。** 我们根据数据可用性和目标严重性阈值提供实践建议，明确零样本或LoRA微调TSFM在何种条件下具有运营合理性，并指出何时域特定监督训练仍不可或缺。

本文其余部分组织如下。第2节回顾PM2.5预测、野火烟雾建模和时间序列基础模型的相关工作。第3节描述数据集、预处理和逐事件留出协议。第4节介绍模型、适应程序和评估指标。第5节报告结果，第6节讨论发现和未来方向。

## 2 相关工作

### 2.1 基于深度学习的PM2.5预测

循环和注意力架构现已成为数据驱动空气质量预测的核心。长短期记忆网络（LSTM）及其门控和双向变体仍是污染物浓度预测的强基线，而将卷积或自编码器前端与循环或Transformer后端结合的混合设计通过联合建模空间结构和时间依赖性报告了进一步提升。近期例子包括：用于工业海湾下一小时NO2、PM10和SO2的自编码器和稀疏自编码器分类器[35](https://arxiv.org/html/2607.07951#bib.bib33)；融合空间自相关特征的贝叶斯优化CNN–LSTM–Transformer框架用于四川省尺度预测[47](https://arxiv.org/html/2607.07951#bib.bib34)；LSTM、CNN–LSTM、Transformer和Transformer–LSTM在多个预测水平上的系统比较[46](https://arxiv.org/html/2607.07951#bib.bib30)；以及通过元启发式搜索调优的Transformer–LSTM混合模型用于区域PM2.5预测[30](https://arxiv.org/html/2607.07951#bib.bib31)。一个一致的发现是，注意力和频率感知机制改进了整体误差指标（MAE, RMSE, R²），而显式的频谱或空间编码减轻了循环模型常见的尖锐过渡平滑问题[22](https://arxiv.org/html/2607.07951#bib.bib35)。

尽管架构多样，文献中的评估协议却惊人地统一，并隐藏了一个与极端事件预测直接相关的缺口。模型几乎总是在固定监测站点集的时间划分上进行训练和评估：测试片段是训练中相同站点的时间延续，来自同一时期，且关键的是经常与相同的污染事件重叠[35](https://arxiv.org/html/2607.07951#bib.bib33), [47](https://arxiv.org/html/2607.07951#bib.bib34), [46](https://arxiv.org/html/2607.07951#bib.bib30), [30](https://arxiv.org/html/2607.07951#bib.bib31)。即使测试空间迁移的基准也仅限于单一气候区域或省份，而应用正式显著性检验的多站点预测研究则按时间而非事件划分数据[22](https://arxiv.org/html/2607.07951#bib.bib35)。野火特定文献也不例外：基于图的受火影响PM2.5预测器会保留整个年份（例如，用两个季节训练，在第三个季节上测试，同时排除一个异常低活动年份）[26](https://arxiv.org/html/2607.07951#bib.bib40)，而基于LSTM的火灾预警系统在某几年块上训练，在随后的几年上测试[6](https://arxiv.org/html/2607.07951#bib.bib41)。这些设计衡量已知范围内的插值能力；它们并不测量模型是否泛化到训练中未出现的新高影响事件。这种区别在最难预测的地方最为重要。野火烟雾事件具有重尾、相对罕见且源位置、传输和强度各不相同的特点，因此时间划分可能从某个火灾的起始阶段泄漏信息到用于预测其峰值的训练窗口。为了隔离真实的事件级泛化，我们采用逐事件留出交叉验证协议，其中每折保留与一个火灾事件相关的全部记录，并评估对保留事件的迁移能力。据我们所知，这种事件留出评估在以往的PM2.5预测基准中未被应用，并且是我们后续比较时间序列基础模型与训练的循环及Transformer基线的基础。

### 2.2 野火烟雾与PM2.5建模

野火特定PM2.5预测一直由基于过程的模型主导。这些模型包括耦合火灾-大气-化学系统（如WRF-Chem和WRF-SFIRE-CHEM），以及运行烟雾预测系统（如NOAA的HRRR-Smoke [3](https://arxiv.org/html/2607.07951#bib.bib13)）和基于HYSPLIT的烟雾预测系统。