ELMZip:通过极限学习机实现星上卫星图像压缩以高效下行传输
摘要
ELMZip 是一种新颖的卫星图像压缩框架,利用极限学习机(ELM)和区域分解实现高效的星上神经表示,仅传输紧凑的输出权重以减少下行数据量,同时保持较高的重建保真度。
arXiv:2608.06942v1 公告类型:新
摘要:通过小卫星(例如 CubeSats)获取多光谱图像面临显著的数据下行挑战,原因是数据量大且通信窗口受限。虽然星上图像压缩对于解决这一瓶颈至关重要,但传统方法往往难以适应多波段、多分辨率数据的非线性统计特性。为克服这些局限,我们提出了 ELMZip,一种基于极限学习机(ELM)和区域分解策略的新型框架,用于高效、无分辨率的星上神经表示。ELMZip 将拟合过程表述为使用随机特征单层网络的凸最小二乘问题,从而无需计算代价高昂的反向传播。通过采用非对称传输协议,仅发送紧凑的输出权重,所提方法显著减少了下行数据量。与以往依赖迭代优化并需要传输完整网络参数的神经表示方法不同,ELMZip 在保持高重建保真度的同时实现了显著的压缩效率。这一能力支持即时图像重建以进行分析,使资源受限平台能够最大化数据回报,并推进实时 AI 驱动的地球观测。
查看缓存全文
缓存时间: 2026/08/10 08:04
# ELMZIP:基于极端学习机的星上卫星图像压缩用于高效下行链路
来源:https://arxiv.org/html/2608.06942
Woojin Cho Junghwan Park Sangcheol Sim Steve Andreas Immanuel Junhyuk Heo Darongsae Kwon
###### 摘要
通过小型卫星(如CubeSat)获取多光谱图像,由于数据量大且通信窗口受限,带来了显著的数据下行链路挑战。虽然星上图像压缩对解决这一瓶颈至关重要,但传统方法往往难以适应多波段、多分辨率数据的非线性统计特性。为克服这些限制,我们提出了ELMZip,一种基于极端学习机(ELM)和区域分解策略的新型框架,用于高效、无分辨率的星上神经表示。ELMZip将拟合过程表述为基于随机特征单层网络的凸最小二乘问题,从而无需计算昂贵的反向传播。通过采用仅发送紧凑输出权重的非对称传输协议,所提方法显著减少了下行链路负载。与以往依赖迭代优化并需要传输完整网络参数的神经表示方法不同,ELMZip在保持高重建保真度的同时实现了显著的压缩效率。这一能力使得图像能够立即重建以供分析,帮助资源受限平台最大化数据回报,并推进实时AI驱动的地球观测。
## I 引言
小型卫星(如CubeSat)正在改变地球观测,但其星上计算和通信能力仍受到有限功率预算、被动热管理、辐射效应和短暂下行窗口的严格限制。随着传感器性能的提升,由此产生的高分辨率多光谱数据增长日益超过可用的星地带宽,迫使运营商丢弃数据、延迟传输,或依赖CCSDS 123.0[9](https://arxiv.org/html/2608.06942#bib.bib62)和JPEG[26](https://arxiv.org/html/2608.06942#bib.bib12)等传统压缩标准。虽然这些编解码器有效,但其固定变换可能无法完全适应各类地表覆盖的高度非线性、场景相关统计特性。
受这些运行约束的推动,随着低功耗AI硬件(如NVIDIA Jetson系列)的出现[17](https://arxiv.org/html/2608.06942#bib.bib44), [13](https://arxiv.org/html/2608.06942#bib.bib55), [3](https://arxiv.org/html/2608.06942#bib.bib56), [8](https://arxiv.org/html/2608.06942#bib.bib60),星上边缘计算已获得发展动力,可在航天器上直接实现更灵活、更面向任务的数据缩减。与此同时,隐式神经表示(INR)也被探索为一种替代数据表示用于压缩,通过将图像建模为空间坐标上的连续函数而非离散像素网格[6](https://arxiv.org/html/2608.06942#bib.bib43), [4](https://arxiv.org/html/2608.06942#bib.bib39)。尽管重建质量优异,但广泛使用的INR架构(如SIREN[22](https://arxiv.org/html/2608.06942#bib.bib16)或WIRE[21](https://arxiv.org/html/2608.06942#bib.bib45))通常需要迭代反向传播,导致较大的延迟和能耗,难以在时间受限的轨道过境期间满足要求。此外,传输完整的网络参数会削弱实际压缩增益,限制其在带宽受限任务中的实用性。
参见图注 图1:传统卫星通信传输原始图像数据,而所提方法传输紧凑的神经表示参数,以便地面更快重建。在本工作中,我们提出了基于极端学习机的神经压缩方法(ELMZip),这是一种专为星上卫星图像压缩设计的新型框架。借鉴用于求解偏微分方程的基于区域分解的ELM架构[1](https://arxiv.org/html/2608.06942#bib.bib46), [25](https://arxiv.org/html/2608.06942#bib.bib47)的思想,我们将区域分解和极端学习机(ELM)[10](https://arxiv.org/html/2608.06942#bib.bib1)的原理应用于多光谱图像回归问题。与传统深度学习方法不同,ELMZip将逐图像训练重新表述为凸线性最小二乘问题,从而无需迭代反向传播即可在数秒内获得解析解。
参见图注 图2:ELMZip概述:卫星仅拟合输出权重μ^k\\mu^\{k\},使用卫星与地面站之间预共享的固定随机特征θfix\\theta\_\{\\text\{fix\}\},并仅传输μ^k\\mu^\{k\},使地面站能够重建V^\(X;Θk\)\\hat\{V\}\(\\mathcal\{X\};\\Theta^\{k\}\)。
为最大化下行链路效率,ELMZip采用非对称传输协议。通过同步卫星与地面段之间的随机特征初始化(通过共享确定性的初始化),卫星只需传输一组紧凑的输出参数(即最后一层权重),而不是标准INR流程中的完整网络参数[5](https://arxiv.org/html/2608.06942#bib.bib57)。因此,地面站可以快速重建高保真预览,从而支持实际运行决策(如优先处理需要立即下载的场景),并支持下游遥感工作流,例如植被监测[7](https://arxiv.org/html/2608.06942#bib.bib26), [15](https://arxiv.org/html/2608.06942#bib.bib27)、城市变化检测[2](https://arxiv.org/html/2608.06942#bib.bib58)和少样本分割[11](https://arxiv.org/html/2608.06942#bib.bib61),而无需等待完整数据传输。
总体而言,ELMZip在重建质量与传输成本之间提供了有效折中,为资源受限的地球观测平台提供了一种面向部署的神经压缩策略。本工作的主要贡献总结如下:
- •我们提出了ELMZip,一种基于ELM的神经压缩方法,通过凸最小二乘公式实现无需反向传播的快速星上拟合。
- •我们提出了一种非对称下行链路协议,仅传输紧凑的输出参数,以便地面站高效重建和生成预览。
- •为评估整体性能,我们在覆盖多种自然环境的Level-0和Level-1C数据集上评估了所提方法。
## II 背景与相关工作
### II-A 图像的隐式神经表示
INR从根本上改变了数据的存储和处理方式[23](https://arxiv.org/html/2608.06942#bib.bib17), [12](https://arxiv.org/html/2608.06942#bib.bib53), [6](https://arxiv.org/html/2608.06942#bib.bib43)。INR不是存储离散的像素强度网格V∈RH×W×CV\\in\\mathbb\{R\}^\{H\\times W\\times C\},而是学习一个连续映射函数Φ:R2→RC\\Phi:\\mathbb\{R\}^\{2\}\\rightarrow\\mathbb\{R\}^\{C\},将二维空间坐标X=\(x,y\)\\mathcal\{X\}=\(x,y\)映射到对应的光谱强度值V\(X\)V\(\\mathcal\{X\}\)。标准多层感知器(MLP)作为函数逼近器,其递归定义如下。
Φ\(X;Θ\)=WL\(σL−1\(...σ1\(W1⋅X\+b1\)...\)\)\+bL,\\Phi\(\\mathcal\{X\};\\Theta\)=W\_\{L\}\(\\sigma\_\{L\-1\}\(\\dots\\sigma\_\{1\}\(W\_\{1\}\\cdot\\mathcal\{X\}\+b\_\{1\}\)\\dots\)\)\+\{b\}\_\{L\},(1)其中WlW\_\{l\}和blb\_\{l\}表示第ll层的权重和偏置,LL是层数,σ\\sigma是非线性激活函数。虽然标准ReLU网络无法捕获图像的高频细节[24](https://arxiv.org/html/2608.06942#bib.bib51),但近期的进展引入了周期性激活来克服这种频谱偏差[22](https://arxiv.org/html/2608.06942#bib.bib16), [14](https://arxiv.org/html/2608.06942#bib.bib49), [27](https://arxiv.org/html/2608.06942#bib.bib50)。例如,SIREN[22](https://arxiv.org/html/2608.06942#bib.bib16)采用正弦激活函数,使网络能够有效建模精细细节及其导数。类似地,WIRE[21](https://arxiv.org/html/2608.06942#bib.bib45)利用复Gabor小波激活eiω0X⋅e−\|X\|2e^\{i\\omega\_\{0\}\\mathcal\{X\}\}\\cdot e^\{\-\|\\mathcal\{X\}\|^\{2\}\},提供最优集中的空间-频率定位。尽管这些架构的重建质量很高,但它们需要通过梯度下降最小化非凸损失函数L=∑‖Φ\(X;Θ\)−V\(X\)‖2\\mathcal\{L\}=\\sum\|\|\\Phi\(\\mathcal\{X\};\\Theta\)\-V\(\\mathcal\{X\}\)\|\|^\{2\}来寻找最优参数Θ\\Theta。这种迭代优化对于星上处理来说慢得难以接受,通常需要数分钟到数小时才能收敛,与低地球轨道(LEO)运行中的实时约束不兼容。
### II-B 极端学习机
为规避基于梯度训练的延迟,我们转向ELM。ELM理论认为,对于前馈网络,输入权重和偏置θfix=\{Wfix,bfix\}\\theta\_\{\\text\{fix\}\}=\\\{W\_\{\\text\{fix\}\},b\_\{\\text\{fix\}\}\\\}无需迭代调整。相反,它们可以从连续概率分布中随机赋值并固定。于是训练过程简化为仅学习输出权重μ\\mu。ELM输出表示如下。
Φ\(X;Θ\)=H⋅μ,H=σ\(Wfix⋅X\+bfix\)\\Phi\(\\mathcal\{X\};\\Theta\)=\\mathbf\{H\}\\cdot\\mu,\\quad\\mathbf\{H\}=\\sigma\(W\_\{\\text\{fix\}\}\\cdot\\mathcal\{X\}\+b\_\{\\text\{fix\}\}\)(2)该公式允许使用输出矩阵H\\mathbf\{H\}解析计算最优输出权重μ\\mu。
## III 所提方法:ELMZip
我们提出了ELMZip框架,它将ELM与区域分解框架相结合,用于高速多光谱图像压缩问题。
核心目标是用一组局部极端学习机来逼近多光谱图像函数V\(X\)V\(\\mathcal\{X\}\),从而实现高效的数据传输。我们的ELMZip框架可总结如下:
- •星上编码:卫星使用固定初始化生成随机输入层,并解析计算输出权重μ\\mu。
- •传输:下行链路负载仅包含量化后的输出权重μ\\mu。输入权重和偏置θfix=\{Wfix,bfix\}\\theta\_\{\\text\{fix\}\}=\\\{W\_\{\\text\{fix\}\},b\_\{\\text\{fix\}\}\\\}从不传输。
- •地面解码:地面站接收来自星上的μ\\mu,并将其与共享的固定初始化θfix\\theta\_\{\\text\{fix\}\}相结合,重建高维多光谱卫星图像。
表 I:基准数据集的地理坐标
| 数据 | 纬度 | 经度 | 环境 |
|---|---|---|---|
| Antuco | L0 | 37°35’05”S | 71°13’37”W | 火山 |
| Puszta | L0 | 47°28’18”N | 19°53’27”E | 草原 |
| Andaman | L0 | 12°26’54”N | 93°56’27”E | 海洋 |
| Cairo | L1C | 30°01’29”N | 31°55’18”E | 沙漠 |
| Merapi | L1C | 07°32’29”S | 110°26’46”E | 火山 |
| Seoul | L1C | 37°31’30”N | 126°55’36”E | 城市 |
参见图注 (a)Antuco (L0)
参见图注 (b)Puszta (L0)
参见图注 (c)Andaman (L0)
参见图注 (d)Cairo (L1C)
参见图注 (e)Merapi (L1C)
参见图注 (f)Seoul (L1C)
图 3:Sentinel-2基准数据集。该数据集包含六个不同区域,覆盖Level-0((a)-(c))和Level-1C((d)-(f))数据产品中的多种环境。
### III-A 带区域分解的极端学习机
单一的全局ELM由于全局频谱偏差[19](https://arxiv.org/html/2608.06942#bib.bib48),难以捕获高分辨率卫星场景的变化。为解决这一问题,我们采用了文献[18](https://arxiv.org/html/2608.06942#bib.bib52), [1](https://arxiv.org/html/2608.06942#bib.bib46)中的区域分解策略。
给定一幅高分辨率多光谱图像,我们首先将空间域Ω\\Omega分解为KK个重叠子域{Ωk}k=1K\\{\\Omega\_\{k\}\\\}\_\{k=1\}^\{K\}。对每个子域,我们分配一个局部ELM逼近器φk\(X;Θk\)\\phi^\{k\}\(\\mathcal\{X\};\\Theta^\{k\}\)。我们使用正弦函数作为激活函数σ\\sigma。全局图像重建定义为这些局部模型的加权和:
V^\(X;Θ\)=∑k=1Kωk\(X\)⋅φk\(X;Θk\),Θ=\{θfixk,μk\}k=1K\\hat\{V\}\(\\mathcal\{X\};\{\\Theta\}\)=\\sum\_\{k=1\}^\{K\}\\omega^\{k\}\(\\mathcal\{X\}\)\\cdot\\phi^\{k\}\(\\mathcal\{X\};\{\{\\Theta\}^\{k\}\}\),\\quad\\Theta=\\\{\\theta^\{k\}\_\{\\text\{fix\}\},\\mu^\{k\}\\\}\_\{k=1\}^\{K\}(3)其中ωk\(X\)\\omega^\{k\}\(\\mathcal\{X\}\)是光滑窗口函数,构成单位分解,满足∑k=1Kωk\(X\)=1\\sum\_\{k=1\}^\{K\}\\omega^\{k\}\(\\mathcal\{X\}\)=1。具体而言,输入参数θfixk=\{Wnk,bnk\}\\theta^\{k\}\_\{\\text\{fix\}\}=\\\{\{W\}\_\{n\}^\{k\},b\_\{n\}^\{k\}\\\}使用PyTorch内置函数初始化。通过在卫星和地面站之间共享固定参数θfix=\{θfixk\}k=1K\\theta\_\{\\text\{fix\}\}=\\\{\\theta\_\{\\text\{fix\}\}^\{k\}\\\}\_\{k=1\}^\{K\},这些参数变为确定性的,无需传输。
### III-B ELMZip的优化
与通过反向传播最小化损失的标准INR不同,ELMZip将训练表述为线性最小二乘问题。如图2所示,对于特定子域kk,我们旨在最小化模型输出与地面真实像素值VgtkV^\{k\}\_\{\\text\{gt\}\}之间的重建误差。由于输入投影参数固定,输出权重μk\\mu^\{k\}的优化目标是严格凸的:
minμk12‖Hkμk−Vgtk‖22\\min\_\{\\mu^\{k\}\}\\frac\{1\}\{2\}\\\|\\mathbf\{H\}^\{k\}\\mu^\{k\}\-\{V\}^\{k\}\_\{\\text\{gt\}\}\\\|\_\{2\}^\{2\}(4)在该方程中,Hk\\mathbf\{H\}^\{k\}是隐藏层激活矩阵,计算为Hk=ωk\(X\)⋅σ\(Wfixk⋅X\+bfixk\)\\mathbf\{H\}^\{k\}=\\omega^\{k\}\(\\mathcal\{X\}\)\\cdot\\sigma\(W\_\{\\text\{fix\}\}^\{k\}\\cdot\\mathcal\{X\}\+b\_\{\\text\{fix\}\}^\{k\}\)。最优解μ^k\\hat\{\\mu\}^\{k\}通过求解正规方程在单次计算步骤中获得:
μ^k=\(Hk⊤Hk\)−1Hk⊤Vgtk\\hat\{\\mu\}^\{k\}=\\left\(\\mathbf\{H\}^\{k\\top\}\\mathbf\{H\}^\{k\}\\right\)^\{\-1\}\\mathbf\{H\}^\{k\\top\}V^\{k\}\_\{gt\}(5)这种闭式解将训练简化为矩阵乘法和线性求解,可以通过嵌入式GPU(如NVIDIA Jetson Nano)上经CUDA优化的线性代数库高效加速。因此,模型可以快速拟合每个图像块。
表 II:ELMZip(我们的)与基线方法的PSNR(↑)和SSIM(↑)对比
| 模型 | Antuco (L0) | Puszta (L0) | Andaman (L0) | Cairo (L1C) | Merapi (L1C) | Seoul (L1C) |
|---|---|---|---|---|---|---|
| | PSNR | SSIM | PSNR | SSIM | PSNR | SSIM | PSNR | SSIM | PSNR | SSIM | PSNR | SSIM |
| MLP | 14.521 | 0.475 | 17.979 | 0.466 | 21.113 | 0.620 | 15.433 | 0.772 | 13.689 | 0.410 | 12.877 | 0.211 |
| SIREN | 22.302 | 0.940 | 23.970 | 0.906 | 24.388 | 0.854 | 17.842 | 0.883 | 15.852 | 0.715 | 16.026 | 0.735 |
| FFN | 22.818 | 0.948 | 22.177 | 0.825 | 24.704 | 0.856 | 17.992 | 0.884 | 15.769 | 0.671 | 16.097 | 0.720 |
| GaussNet | 16.741 | 0.744 | 21.002 | 0.793 | 22.535 | 0.764 | 16.843 | 0.846 | 15.016 | 0.631 | 14.955 | 0.624 |
| WIRE | 16.469 | 0.725 | 19.558 | 0.721 | 21.759 | 0.716 | 15.474 | 0.787 | 14.705 | 0.608 | 14.461 | 0.582 |
| ELMZip | 26.943 | 0.981 | 32.426 | 0.988 | 30.039 | 0.965 | 20.961 | 0.946 | 20.847 | 0.925 | 19.585 | 0.899 |
参见图注 (a)Ground Truth
参见图注 (b)MLP
参见图注 (c)SIREN
参见图注 (d)FFN
参见图注 (e)GaussNet
参见图注 (f)WIRE
参见图相似文章
HyperZip:通过超网络实现基于个性化扩散大语言模型的高效数据压缩
HyperZip 提出了一种高效的基于大语言模型的无损数据压缩框架。该框架利用基于扩散的大语言模型、Multi-Token Prediction(多词元预测)以及超网络,无需微调即可让模型适配目标数据,从而在压缩率与吞吐量之间实现了优于自回归基线的权衡。
EMMI:通过融合表示压缩实现通信高效的 MLLM 推理的边缘多模态智能
EMMI 提出了一种方法,用于在边缘设备上通过压缩表示来实现通信高效的 MLLM 推理,将通信负载降低 32 倍,同时保持准确性。
SEAOTTER:传感器嵌入式自编码与一次性转码实现高效重建
介绍 SEAOTTER,一种用于云机器人的压缩框架,该框架将学习到的潜在表示与标准 JPEG 兼容性相结合,在极端压缩比下实现了更快的编码/解码速度和更高的准确性。
边缘设备上多模态联邦学习的熵引导张量压缩
论文介绍了MESH-FL,一种用于边缘设备上多模态联邦学习的熵引导矩阵乘积态压缩框架。它自适应地分配每层和每种模态的压缩秩,在异构树莓派集群上实现了高达56.8倍的压缩,并在最终准确率上比未压缩的FedAvg提升了2.01%。
OpenZL
OpenZL 是一个压缩库,能够为特定数据格式生成专门的压缩器,以高速实现高压缩比,适用于数据中心工作负载,如 AI 处理。