基础模型嵌入是否提升了跨国作物产量预测的泛化能力？一项针对撒哈拉以南非洲的留一国验证研究

# 基础模型嵌入是否改善了跨国家作物产量的泛化能力？——对撒哈拉以南非洲的留一国家交叉验证评估

来源: https://arxiv.org/html/2605.08113
Yaw Osei Adjei 计算机系，夸梅·恩克鲁玛科技与大学，库马西，加纳 yoadjei@st\.knust\.edu\.gh

###### 摘要

在撒哈拉以南非洲，准确预测小农玉米产量对于粮食安全规划至关重要，然而大多数已发布的基准测试报告的是国家内部的性能，这往往高估了真正的泛化能力。本文探讨了在严格的留一国家交叉验证（LOCO）方案下，地理空间基础模型嵌入（特别是 Prithvi\-EO\-1\.0\-100M 和 ViT\-Base）是否优于传统的 Sentinel\-2 光谱特征。该评估应用于 2017–2022 年间跨越五个非洲国家（肯尼亚、马拉维、尼日利亚、卢旺达、坦桑尼亚）的 6,404 个小农玉米田观测数据。我们评估了 18 种实验条件，涵盖三种特征表示、三种回归算法（Ridge、Random Forest、XGBoost）以及两种验证协议（LOCO 和标准五折随机交叉验证）。结果显示存在显著的泛化差距：在跨国家评估中，所有特征集均取得 R∈2\[0\.17,0\.30\]\{\}^\{2\}\\in\[0\.17,0\.30\] 的性能，但在 LOCO 条件下，所有特征集的 R∈2\[−0\.09,−0\.03\]\{\}^\{2\}\\in\[\-0\.09,\-0\.03\] 均为负值，包括一个天真（naive）的国家均值基线。关键在于，应用于单季生长季复合影像的冻结 Prithvi\-EO 嵌入在跨国预测方面并未比 10 波段 Sentinel\-2 波段中位数提供有意义的优势。这一结果需谨慎解读：Prithvi\-EO 旨在处理多时间序列输入，而使用单年度复合影像是一种故意的不匹配，旨在隔离“冻结表示本身是否具备跨国不变性”这一问题。我们发现它们并不具备，并将此解释为主要瓶颈在于国家层面的产量分布偏移——这是一个数据问题——而非特征表示本身的缺陷。我们的研究结果挑战了“特定领域的地理空间预训练能够缩小泛化差距”的假设，并建立了一个可复现的负面基准，未来的工作应超越这一基准。所有代码和处理后的结果均已发布在 https://github.com/yoadjei/yield-africa。

## I 引言

粮食安全仍然是撒哈拉以南非洲面临的一个定义性挑战，该地区的小农农场占主要粮食作物产量的 70% 以上\[2 (https://arxiv.org/html/2605.08113#bib.bib9)\]。及时且空间细化的产量预报是早期预警系统、农业政策和针对性人道主义应对的重要输入。遥感技术通过将卫星观测直接链接到田间层面的产量结果，为这种预报提供了一条可扩展、成本效益高的途径\[14 (https://arxiv.org/html/2605.08113#bib.bib10)\]。

该项目的一个核心目标是数据丰富的国家训练预测模型，并将其应用于数据稀缺的环境——这种转移需要真正的跨国泛化能力。然而，文献中占主导地位评估范式是在混合数据集内进行随机 k 折交叉验证，无意中在训练集和测试集中保留了特定国家的统计模式。这产生了过于乐观的准确性估计，当模型跨国家部署时，这些估计会崩溃。

近期，大规模卫星档案预训练的地理空间基础模型的兴起，人们希望自监督表示可能编码农业景观的不变物理特征，从而缩小这一泛化差距。由 IBM 和 NASA 联合发布的 Prithvi\-EO\-1\.0\-100M\[10 (https://arxiv.org/html/2605.08113#bib.bib2)\] 是一种掩码自编码器\[8 (https://arxiv.org/html/2605.08113#bib.bib20)\]，在六通道协调 Landsat-Sentinel (HLS) 时间序列上进行预训练，专门用于作物和土地覆盖应用。在大规模 ImageNet 上预训练的视觉变压器（ViT\-Base）\[4 (https://arxiv.org/html/2605.08113#bib.bib3)\] 提供了一个通用视觉基线以供比较。

本文做出了三项贡献：

1. 1\.我们呈现了针对非洲小农玉米产量预测的系统性 LOCO 评估，比较了冻结的基础模型嵌入与工程化光谱特征，使用了 2017–2022 年间来自五个国家的 6,404 个观测数据。据我们所知，此前没有任何已发表的工作将这一评估协议应用于非洲小农产量回归设置中的 Prithvi\-EO 或类似的地理空间基础模型。
2. 2\.我们证明，在冻结的单帧评估协议下，所有特征表示都无法实现跨国泛化：对于所有 9 种特征集和回归器的组合，LOCO R2 均为负值，天真的国家均值预测器也产生负的 R2，证实主要瓶颈在于产量本身的分布偏移，而非特征空间。
3. 3\.我们提供了一个可复现的负面基准——一个文档清晰明确的失败模式，未来关于领域适应、元学习和跨国产量转移的工作必须超越这一基准。

本文其余部分组织如下。第二节（SectionII (https://arxiv.org/html/2605.08113#S2)）回顾相关工作。第三节（SectionIII (https://arxiv.org/html/2605.08113#S3)）描述研究区域和数据源。第四节（SectionIV (https://arxiv.org/html/2605.08113#S4)）介绍实验设计。第五节（SectionV (https://arxiv.org/html/2605.08113#S5)）报告结果。第六节（SectionVI (https://arxiv.org/html/2605.08113#S6)）讨论意义，第七节（SectionVII (https://arxiv.org/html/2605.08113#S7)）得出结论。

## II 相关工作

### II-A 非洲基于卫星的产量预测

Burke 和 Lobell\[2 (https://arxiv.org/html/2605.08113#bib.bib9)\] 证明，Landsat 衍生的 NDVI 时间序列可以解释乌干达小农产量变化的重要部分，为非洲基于卫星的预测确立了早期的概念验证。Lobell 等人\[14 (https://arxiv.org/html/2605.08113#bib.bib10)\] 对卫星影像和传统家庭调查进行了系统比较，发现基于影像的预测在国家内部达到中等准确度，但强调了将模型转移到不同背景中的挑战。You 等人\[22 (https://arxiv.org/html/2605.08113#bib.bib11)\] 将高斯过程应用于 MODIS 时间序列，用于美国县级产量预测，表明空间依赖性是预测准确性的关键驱动力。这些研究有一个共同的局限性：跨地点评估很少见，跨国家评估几乎不存在。

### II-B 地理空间应用的基础模型

视觉变压器（Vision Transformer）\[4 (https://arxiv.org/html/2605.08113#bib.bib3)\] 通过其注意力机制表明，在自然图像上进行大规模预训练可以实现强大的通用视觉表示。Mai 等人\[15 (https://arxiv.org/html/2605.08113#bib.bib16)\] 调查了基础模型在地理空间人工智能中的机遇与挑战，指出通用预训练目标与专门下游任务之间存在持续差距。Jakubik 等人\[10 (https://arxiv.org/html/2605.08113#bib.bib2)\] 引入了 Prithvi\-EO\-1\.0\-100M，这是一个 1 亿参数的掩码自编码器，在大陆美国的六通道 HLS 影像上进行预训练，并针对洪水映射、多时间序列作物分割和过火区域检测进行微调。Wang 等人\[20 (https://arxiv.org/html/2605.08113#bib.bib24)\] 策划了 SSL4EO\-S12 基准，用于 Sentinel\-1/2 影像上的自监督预训练，强调了预训练和下游任务之间模式对齐的重要性。此前没有工作将冻结的 Prithvi\-EO 嵌入与光谱基线针对*跨国*产量回归在非洲进行基准测试。

### II-C 领域偏移与跨地点转移

Tseng 等人\[18 (https://arxiv.org/html/2605.08113#bib.bib14)\] 引入了 CropHarvest，一个全球作物类型数据集，并评估了少样本跨国家作物分类，发现没有目标国家适配会导致性能严重下降。Kerner 等人\[12 (https://arxiv.org/html/2605.08113#bib.bib13)\] 为数据稀疏地区开发了快速响应作物映射，但依赖于区域内微调。Tuia 等人\[19 (https://arxiv.org/html/2605.08113#bib.bib22)\] 提供了遥感分类中领域适应的综合调查，确立了获取条件之间的协变量偏移通常会降低跨站点泛化能力；他们的发现在概念上扩展到本文研究的回归设置。Wolanin 等人\[21 (https://arxiv.org/html/2605.08113#bib.bib23)\] 证明，可解释的深度学习可以在印度小麦带实现强大的国家内部产量估计，但他们的评估仅限于一个国家，并未解决跨国家转移问题。Mañas 等人\[16 (https://arxiv.org/html/2605.08113#bib.bib21)\] 显示，在未整理的 RS 数据上进行季节性对比预训练可以提高多个下游 RS 任务的线性探测准确性，但未评估跨国产量回归。这些研究强化了一致的模式：在一个国家或地区训练的地理空间模型在应用于其他地方时，如果不进行适配，性能会大幅下降。我们的工作将这一证据扩展到产量回归设置，并使用 LOCO 协议在五个非洲国家中明确量化了这一差距，增加了在相同 LOCO 协议下比较基础模型嵌入与工程化光谱特征的维度。

## III 研究区域与数据

### III-A 国家与作物

本研究涵盖五个撒哈拉以南非洲国家：肯尼亚、马拉维、尼日利亚、卢旺达和坦桑尼亚。玉米（Zea mays）是目标作物，因其是当地种植最广泛的粮食作物，也是 GROW\-Africa 观测密度最高的作物。这五个国家代表了多样的农业生态区（从半干旱稀树草原到高山热带地区）以及广泛的小农产量结果，使得跨国泛化真正具有挑战性。

### III-B 产量标签

田间层面的产量标签来自两个互补来源：

GROW\-Africa\[7 (https://arxiv.org/html/2605.08113#bib.bib1)\] 提供了撒哈拉以南非洲通过家庭调查和农学试验收集的带有 GPS 标记的农场层面玉米产量观测数据。我们应用了以下过滤器：（i）观测年份 2017–2022 年，以配合 Sentinel\-2 的可用性；（ii）仅使用点级 GPS 坐标，排除行政多边形中心点；（iii）过滤后至少有 100 个观测值的国家。

HarvestStat Africa\[13 (https://arxiv.org/html/2605.08113#bib.bib15)\] 提供次国家级农作物生产统计数据。尼日利亚的 GPS 级别 GROW\-Africa 覆盖率极低；HarvestStat 行政单元中心点被用作该国的代理观测值。一个 label\_source 指标区分了这两种数据类型。尼日利亚较粗的空间分辨率是一个已披露的局限性（见 SectionVI\-C (https://arxiv.org/html/2605.08113#S6.SS3)）。

合并和质量过滤后，数据集包含 6,404 个观测值：肯尼亚（1,396）、马拉维（1,552）、尼日利亚（955）、卢旺达（1,138）和坦桑尼亚（1,363）。表 I (https://arxiv.org/html/2605.08113#S3.T1) 总结了各国分布情况。

表 I：各国数据集摘要。产量为原始尺度上的 kg/ha。广泛的跨国产量差异（尼日利亚均值 1,256 kg/ha 对比 卢旺达均值 3,993 kg/ha）是本文研究的分布偏移的关键驱动力。

### III-C Sentinel\-2 影像

通过 Google Earth Engine 获取了 Sentinel\-2 Level\-2A 地表反射率影像，范围是每个田间中心点周围 500 米缓冲区，合成年度生长季中位数\[5 (https://arxiv.org/html/2605.08113#bib.bib8)\]。提取了十个光谱波段：B2（蓝）、B3（绿）、B4（红）、B5–B7（红边）、B8（近红外）、B8A（窄近红外）、B11 和 B12（短波红外）。以每个田间为中心导出 224×\\times224 像素补丁作为 GeoTIFF，用于基础模型推理。丢弃估计云量超过 20% 的补丁。

### III-D 光谱指数

从 Sentinel\-2 复合影像计算了四个光谱指数：NDVI\[17 (https://arxiv.org/html/2605.08113#bib.bib17)\]（归一化植被指数）、EVI\[11 (https://arxiv.org/html/2605.08113#bib.bib18)\]（增强植被指数）、LSWI（陆地表面水分指数）和 NDWI（归一化水分指数）。这些指数捕捉了与产量形成相关的植被绿度和冠层水分状况。

### III-E 降雨量

从 CHIRPS\[6 (https://arxiv.org/html/2605.08113#bib.bib7)\] 每日数据集中以 0\.05° 分辨率提取生长季累积降水。每个田间衍生出三个特征：季节性总降雨量、日均降雨量和变异系数（干旱压力的代理指标）。

## IV 方法

### IV-A 特征表示

评估了三种特征集，每种代表一种独特的数据表示范式：

#### IV-A1 光谱（基线）

一个手工设计的 23 维向量，包括 10 个 Sentinel\-2 波段中位数、四个光谱指数和三个 CHIRPS 降雨统计量。这代表了大多数运营性产量预测系统中使用的标准工程特征方法。

#### IV-A2 Prithvi\-EO 嵌入

Prithvi\-EO\-1\.0\-100M\[10 (https://arxiv.org/html/2605.08113#bib.bib2)\] 是一种带有掩码自编码器预训练的视觉变压器，在六通道（HLS 蓝、绿、红、NIR、SWIR\-1、SWIR\-2）多时间序列影像上进行预训练。Sentinel\-2 补丁被重采样到六个 HLS 通道，使用模型发布的每通道统计量进行归一化，并以形状为 (B,6,1,224,224)(B,6,1,224,224) 的单帧张量馈入冻结编码器。最后编码器块的 768 维 CLS 令牌被用作嵌入。未进行微调；权重直接从公开发布的检查点 (Prithvi\_EO\_V1\_100M\.pt) 加载。这隔离了预训练表示与任务特定适应的贡献。

#### IV-A3 ViT\-Base 嵌入

ViT\-Base/16\[4 (https://arxiv.org/html/2605.08113#bib.bib3)\] 在 ImageNet\-21k 上预训练，应用于 RGB（B4、B3、B2）Sentinel\-2 补丁，生成 768 维 CLS 令牌。ViT\-Base 作为通用视觉基线，便于比较地理空间专用预训练（Prithvi\-EO）与自然图像上的领域无关预训练。

### IV-B 回归器

评估了三种回归算法：

Ridge 回归\[9 (https://arxiv.org/html/2605.08113#bib.bib6)\]，其中α∈\{0\.1,1,10,100,1000\}\\alpha\\in\\\{0\.1,1,10,100,1000\\\} 由内部交叉验证选择。Ridge 提供了一个对多重共线性鲁棒的线性基线——鉴于嵌入特征的高维性，这一点很相关。

Random Forest\[1 (https://arxiv.org/html/2605.08113#bib.bib5)\]，包含 100 棵树及所有默认超参数。Random Forest 捕捉非线性交互作用，而不容易对单个训练点过拟合。

XGBoost\[3 (https://arxiv.org/html/2605.08113#bib.bib4)\]，包含 300 棵树，学习率 0.05，最大深度 4，子采样 0.8。XGBoost 是表格回归基准中最强的树集成基线，在此特征范式内提供具有竞争力的性能上限。

所有模型都包装在 StandardScaler→\\rightarrow 回归器管道中。随机状态固定在 42