MANAS-2：基于约束重建的EEG基础模型

# MANAS-2：面向脑电基础模型的约束重建
来源：https://arxiv.org/html/2609.13717  
Arvasu Kulkarni††注：这些作者贡献相同。Aditya Ray Mishra11脚注标记：1单位：Mannas AI 邮箱：[[email protected]](mailto:[email protected]) Mahir Jain单位：Mannas AI 邮箱：[[email protected]](mailto:[email protected]) Parshva Runwal单位：Mannas AI 邮箱：[[email protected]](mailto:[email protected]) Lakshya Saini单位：Mannas AI 邮箱：[[email protected]](mailto:[email protected]) Siddharth Panwar单位：Mannas AI 邮箱：[[email protected]](mailto:[email protected]) Sandeep Singh单位：Mannas AI 邮箱：[[email protected]](mailto:[email protected])

###### 摘要

掩码重建广泛应用于脑电基础模型，但对低信噪比波形进行重建优化，并不一定能产生最有用的潜在表示。我们提出 MANAS-2，一种新的脑电基础模型，它将原始-频带混合掩码自编码器与受物理启发的正则化器——约束重建相结合。RBH 联合重建时域波形块和紧凑的频带目标，而 ConRec 仅作用于时域解码器输出，惩罚重建波形相邻短窗口间均方根能量的差异。ConRec 旨在通过引导编码器偏向振荡包络信息的组织来塑造其学习。在七个独立的脑电数据集上，在 RBH 模型中添加 ConRec 使冻结岭回归恢复的六频带频谱功率从平均 R²=0.860 提高到 0.906，块间频带动态的恢复从 R²=0.283 提高到 0.354，同时时域波形信息仍能从冻结的潜在表示中高度恢复。应用于仅时域掩码自编码器时，尽管没有接收频谱目标，ConRec 仍能改善冻结的下游传输性能和依赖频率的潜在几何结构，这表明 ConRec 的效果与架构无关。MANAS-2 在大多数下游知识迁移任务上也优于领先的脑电基础模型。从 ConRec 的效果中我们看到，通过解码器施加的物理启发约束可以使潜在空间更具频谱组织性和可迁移性。因此，MANAS-2 提供了一个以约束重建为机制来塑造表示质量的新脑电基础模型。

## 1 引言

自监督预训练已成为构建通用脑电编码器的标准路径。对比学习、神经分词器和掩码自编码器已证明，预训练的脑电表征可以跨主体、任务和记录条件进行迁移。然而，许多脑电基础模型使用的目标函数仍接近于用于通用序列的默认目标：掩码块并重建其原始值。这种设计很简单，但它将信号视为一袋局部片段，而非连续的物理测量。

脑电与通用时间序列在三个方面有重要区别，这影响了预训练。首先，它是低信噪比的：仅优化逐点波形误差可能会奖励对干扰变异的重建。其次，脑电是振荡性的：临床和认知上有意义的结构通常通过典型频带及其演化的能量包络来表达。第三，脑电是连续的：相邻块不是独立的样本，而是电位的邻近片段。将这些块独立对待的掩码重建目标，没有对重建波形中局部信号统计量应如何演变施加任何先验。

本文研究这种先验是否可用于塑造学习到的表示，而不仅仅是改善波形重建。我们引入了约束重建，一种用于脑电掩码预训练的时域正则化器。ConRec 惩罚重建波形中沿规则时域边界发生的短窗口均方根能量跳变。重要的是，ConRec 正则化器本身没有频谱目标。它仅作用于重建的时域波形，使用受物理启发的局部能量约束来引导*编码器的学习内容*。

我们提出的模型 MANAS-2 使用了一种新颖的原始-频带混合掩码自编码器架构，并与 ConRec 结合。编码器接收时域波形块；主解码器重建时域块；一个专用的频带解码器预测与相同块网格对齐的紧凑频带目标。这个特定架构的必要性——包括与仅时域 MAE、朴素频谱损失、纯频谱分词、混合变体和标准 RBH 的比较——在附录 D 中报告。

我们的核心结果是，这种重建空间正则化重塑了频谱表示，即使它没有明确影响——甚至不需要——频谱解码。在七个独立的脑电数据集上，MANAS-2 将冻结岭回归恢复的六频带频谱功率从 RBH 的平均 R²=0.860 提高到 0.906，并将相邻块频带动态的恢复从 R²=0.283 提高到 0.354，同时保持了从潜在空间高度恢复时域波形的能力。将 ConRec 应用于仅时域掩码自编码器也能改善下游传输和频谱潜在几何结构。当 ConRec 与 RBH 架构结合时，这些恢复能力的提升最为显著。这些发现支持了脑电预训练的约束与目标原则：目标规定了解码器被要求重建什么，而对该重建的辅助约束可以引导该信息在编码器中的组织方式。

#### 贡献。

我们做出了三项贡献。第一，我们定义了 ConRec，一种用于脑电掩码建模的时域约束重建正则化器。第二，我们证明了 ConRec 提高了混合架构中频谱功率和频带动态的可恢复性，并且尽管仅作用于重建的时域波形，它仍然改变了不同架构下的频谱潜在几何结构。第三，我们提出了 MANAS-2，一个基于新颖的频谱-时域原始频带混合架构和 ConRec 构建的脑电基础模型。MANAS-2 在七个独立数据集上的下游性能优于文献中大多数领先的脑电基础模型。

## 2 相关工作

本节总结了与我们探索相关的近期工作。

#### 脑电基础模型。

自监督脑电预训练已从对比学习发展到掩码自编码和基于分词的方法。最近的调查强调了跨数据集迁移的前景以及脑电基础模型评估协议的不稳定性。我们的工作是互补的：我们不是提出一个更大的编码器，而是研究重建约束如何塑造冻结潜在表示中存储的信息。

#### 频谱和模态感知目标。

脑电包含强烈的频谱语义，激发了重建或建模时频结构的目标。我们的结果显示，明确的频谱目标不是塑造频谱表示的唯一因素。时域能量合理性约束可以鼓励保留频谱包络信息，因为局部能量施加了宽频谱压力。

#### 表征探针与约束学习。

冻结探针通常用于诊断中间表示中哪些信息是线性可访问的。我们的探针将这一概念扩展到脑电特定目标：六频带功率、时域波形恢复和频带流。概念上，ConRec 与约束学习和物理信息学习相关：模型不仅需要匹配目标，还必须满足有效信号所遵循的结构条件。

## 3 方法

MANAS-2 使用了掩码自编码框架，并通过 REVE 风格的时域块分词、时空位置编码、块掩码和全局辅助重建头进行了适配，以适用于脑电。脑电被重采样到 200 Hz，并表示为在通道-时间网格上的重叠时域块标记。在此基础上，MANAS-2 引入了两个组件：新颖的原始-频带混合架构和约束重建。RBH 通过专用解码器引入显式的频谱监督，同时保留时域波形标记，而 ConRec 通过时域重建路径应用受物理启发的局部能量先验来塑造共享的编码器表示。

完整的预训练目标是
\(\mathcal{L} = \mathcal{L}_{\mathrm{pri}} + \lambda_{\mathrm{sec}}\mathcal{L}_{\mathrm{sec}} + \lambda_{\mathrm{band}}\mathcal{L}_{\mathrm{band}} + \lambda_{r}\mathcal{L}_{\mathrm{rms}}\)，(1)其中前两项重建时域波形目标，\(\mathcal{L}_{\mathrm{band}}\) 是 RBH 频谱目标，而 \(\mathcal{L}_{\mathrm{rms}}\) 是 ConRec 正则化器。
参见说明 图1：MANAS-2 架构。脑电信号被表示为带有时空位置编码的重叠时域块标记。这些标记由 Transformer 编码器处理，随后进行时域和频域解码。ConRec 正则化器应用于时域解码器的输出。#### 原始-频带混合。
RBH 将时域波形块保留为编码器输入和主要重建目标，但增加了一个在相同可见编码器标记上运行的专用频谱解码器。对于每个时域块，一个冻结的 STFT 前端构建六个典型脑电频带的归一化对数功率目标：δ（0.5-4 Hz）、θ（4-8 Hz）、α（8-13 Hz）、低β（13-20 Hz）、高β（20-30 Hz）和γ（30-40 Hz）。频谱解码器使用掩码标记的 L1 损失进行训练。与仅时域重建、直接 STFT 监督和频谱分词替代方案的比较见附录 D。

#### 约束重建。

ConRec 作用于时域解码器产生的重建时域波形 \(\hat{\mathbf{x}}\)。正则化边界放置在每 \(l=200\) 个样本（1秒）处。在每个有效边界 \(\tau\)，ConRec 比较边界前后长度为 \(q\) 的窗口内的均方根能量：
\(r^{\mathrm{rms}}_{b,c,\tau} = \left( \frac{1}{q}\sum_{u=\tau-q}^{\tau-1}\hat{x}_{b,c,u}^{2} + \varepsilon \right)^{1/2} - \left( \frac{1}{q}\sum_{u=\tau}^{\tau+q-1}\hat{x}_{b,c,u}^{2} + \varepsilon \right)^{1/2}\)。(2)
\(\mathcal{L}_{\mathrm{rms}}\) 对这些残差应用 Smooth-L1 惩罚，并在批次、通道和有效边界上取平均。在 MANAS-2 中，\(q=32\)，\(\varepsilon=10^{-6}\)，且 \(\lambda_{r}=3.0\)。与频谱分支不同，ConRec 没有引入新的预测目标；它通过解码器路径使用局部能量先验来重塑共享的编码器表示。

## 4 实验

### 4.1 设置与探针

我们通过 (i) 潜在空间探针和 (ii) 冻结的下游传输，在七个独立的脑电数据集上评估冻结的表征，不更新编码器参数。潜在探针测量六频带功率、相邻块的频带功率变化（*频带流*）、峰α频率、使用 FOOOF 获得的周期性分量和非周期性指数，以及时域波形可恢复性。由于六频带功率和频带流都与 RBH 频谱目标密切相关，峰α频率、周期性结构和非周期性指数提供了预训练期间未直接监督的补充频谱特性。波形可恢复性作为对照，以检查频谱增益是否伴随着可访问时域信息的损失。

### 4.2 频谱信息可恢复性

表1：在七个独立脑电数据集上进行的冻结岭回归探针恢复。数值为数据集上的平均测试 R²。完整的数据集级别结果在附录 E 中报告。表1包含了核心实证结果。相对于 RBH，MANAS-2 显著提高了从冻结潜在表示中可恢复的频谱信息，尽管唯一的附加目标是 ConRec，它作用于重建的时域波形且未引入新的频谱目标。平均六频带恢复从 R²=0.860 提高到 0.906，而频带流从 0.283 提高到 0.354，显示出在频谱能量动态表示方面的特别显著提升。

这种影响超越了 RBH 解码器直接监督的频谱量。峰α频率恢复从 R²=0.135 提高到 0.208，周期性 PSD 分量的恢复从 0.203 提高到 0.254。相反，非周期性指数变化很小（0.788 到 0.792），这与 ConRec 主要作用于局部能量和振荡包络组织，而非宽带频谱斜率的特性一致。波形可恢复性保持高水平（0.920 到 0.917），表明这些频谱增益并非主要来自丢弃可访问的时域信息。

### 4.3 潜在几何结构

接下来，我们测试 ConRec 是改变了潜在空间中频谱信息的组织结构，而不仅仅是其可恢复性。我们生成人工信号：固定频率的正弦波，覆盖 0.5-40 Hz，步长 0.5 Hz，每个频率重复五次，每次添加不同的低幅度噪声样本。我们评估单通道（Cz）输入和 18 通道输入，通道间相位独立随机化。由于每个信号内频率是恒定的，此诊断将频率表示与演化的频谱动态分离。

对于每个人工正弦波，我们对编码器的输出向量在时间和通道上取平均...