EEG-PRISM：基于生理学的EEG基础模型预测可解释性

# 基于生理学的脑电基础模型预测可解释性分析  
来源：https://arxiv.org/html/2608.13676  

Punnisa Amornsirikul  
Archana Venkataraman  
注：本文为预印本，目前正在进行同行评审  
注：本研究部分得到美国国立卫生研究院 R01DC022565 项目（首席研究员：Venkataraman）和 R01HD108790 项目（首席研究员：Venkataraman）的支持  
注：D. M. Shama 目前就职于美国马里兰州巴尔的摩约翰霍普金斯大学电气与计算机工程系，同时在波士顿大学（美国马萨诸塞州，邮编 02215）担任访问研究员（邮箱：[email protected]）  
注：P. Amornsirikul 目前就读于波士顿大学（美国马萨诸塞州，邮编 02215）（邮箱：[email protected]）  
注：A. Venkataraman 曾任职于约翰霍普金斯大学，目前就职于波士顿大学电气与计算机工程系（美国马萨诸塞州，邮编 02215）（邮箱：[email protected]）  

###### 摘要  
**目的**：基础模型代表了人工智能在脑电分析领域的下一个发展阶段；然而，现有的可解释人工智能技术仅能在时间-通道输入空间提供归因评分，这与临床医生对脑电的理解直觉存在错位。因此，亟需一种通用方法，能够在不修改或重新训练底层模型的前提下，将任意基础模型的可解释性拓展至其他与生理学相关的域。  
**方法**：EEG-PRISM 利用线性变换和成熟的反向传播规则，将时间-通道归因评分映射到其他域。我们推导了通过可逆离散傅里叶变换映射到频域的方法，并通过一个近似可逆的脑电生成模型映射到源域。我们在模拟数据和真实数据上评估了 EEG-PRISM，通过五种基础模型和四种人工智能解释器，评估了其在不同域中恢复真实现象的能力。  
**结果**：在模拟数据中，EEG-PRISM 实现了近乎完美的频谱恢复和 69.2% 的空间准确性。在癫痫研究中，EEG-PRISM 正确判定 delta-theta 波活动最为显著，并以 50% 的准确率正确定位癫痫发作起始区。在自闭症研究中，EEG-PRISM 将具有预测性的 delta-alpha 生物标志物定位到额叶和颞叶区域，与先前研究一致。  
**结论**：EEG-PRISM 是一种基于理论的事后归因方法，能够准确映射到频谱和空间域。它支持对短暂事件（如癫痫发作）的窗口级分析，以及对临床相关生物标志物（如自闭症）的组级识别，从而推动可解释脑电基础模型的发展。  
**意义**：本研究实现了对脑电基础模型的基于生理学的解释，并支持临床相关洞察，如事件定位和生物标志物识别。  

###### 关键词  
基础模型、脑电图、可解释性、领域感知可解释性、线性变换  

## I 引言  
头皮脑电图（EEG）通过捕捉潜在神经过程丰富的时序动态，为观察大脑活动提供了非侵入性的窗口。此外，脑电信号中结构化的空间和频谱活动变化与神经系统疾病和病理密切相关。例如，在研究广泛的癫痫疾病中，脑电信号中的同步尖峰活动以及跨频带的演化频谱模式，为理解癫痫发作动态提供了重要见解[1 (https://arxiv.org/html/2608.13676#bib.bib1), 2 (https://arxiv.org/html/2608.13676#bib.bib2)]；这些特征也被用于区分癫痫亚型并指导治疗方案[3 (https://arxiv.org/html/2608.13676#bib.bib3), 4 (https://arxiv.org/html/2608.13676#bib.bib4)]。在利用脑电研究精神疾病的领域[5 (https://arxiv.org/html/2608.13676#bib.bib5)]，研究表明频谱活动（主要在低频带）的改变与注意缺陷多动障碍（ADHD）和强迫症（OCD）等疾病相关[6 (https://arxiv.org/html/2608.13676#bib.bib6)]。尽管关于自闭症的研究结果尚不一致，但有证据表明其高频（如 gamma 波）活动存在差异[7 (https://arxiv.org/html/2608.13676#bib.bib7)]。在空间域，脑电信号被建模为由分布式神经源产生的电活动，这些活动根据成熟的正向模型通过头部组织传播到头皮[8 (https://arxiv.org/html/2608.13676#bib.bib8)]。特别是对于高密度记录，人们越来越有兴趣利用这些空间关系来“逆向”正向模型，将脑电活动映射到大脑的皮层区域。例如，头皮脑电可以近似定位癫痫发作起始区，并作为侵入性评估癫痫灶前的无创性手段[9 (https://arxiv.org/html/2608.13676#bib.bib9)]。源级解释也越来越多地应用于精神疾病的研究[10 (https://arxiv.org/html/2608.13676#bib.bib10)]。  
尽管具有临床价值，但脑电图复杂、高维且常受伪影污染。这些因素使得人工解读极具挑战性，尤其是对于连续的多通道记录。人工智能的兴起催生了用于脑电分析的计算方法，其重点日益转向直接从脑电数据中学习可跨数据集和任务泛化的表征[11 (https://arxiv.org/html/2608.13676#bib.bib11)]。虽然这些模型可以达到较高的预测精度，但其临床实用性受限于缺乏可解释性，如图1 (https://arxiv.org/html/2608.13676#S1.F1)所示。具体来说，这些模型以脑电信号作为输入，因此事后解释器（如 GradCam[12 (https://arxiv.org/html/2608.13676#bib.bib12)] 和 SHAP[13 (https://arxiv.org/html/2608.13676#bib.bib13)]）提供的是时间和通道层面的归因评分。这些信息与临床实践中理解脑电的方式并不一致，因为在实践中，诊断洞察更自然地表达在频谱和空间域。因此，我们需要一种值得信赖的方法，其解释不仅要准确，而且要基于具有生理意义的表征，能够无缝融入临床工作流程。  

参见图注图 1：脑电基础模型及其使用事后工具的可解释性在时间-通道空间操作，而临床有意义的模式存在于控制脑电生成的频谱和源域中。  

### I-A 脑电基础模型作为黑盒计算工具  
由于性能提升和部署便捷，脑电基础模型正日益取代传统的特征工程流程。传统方法通常采用流水线架构，包括预处理、手工特征提取和预测模块（如逻辑回归或支持向量机）。手工特征（如傅里叶变换、小波分解和频谱功率）的设计受到神经科学见解的驱动，但需要大量实验来识别最能捕捉感兴趣现象的表征[14 (https://arxiv.org/html/2608.13676#bib.bib14)]。相比之下，深度神经网络直接从时间-通道脑电输入中学习分层表征，减少了对人工特征设计的需求[15 (https://arxiv.org/html/2608.13676#bib.bib15)]。在充足的训练数据下，这些网络可以实现比传统方法更高的预测性能，并且通常表现出跨数据集的泛化能力提升[16 (https://arxiv.org/html/2608.13676#bib.bib16)]。基础模型代表了人工智能在脑电分析领域的下一个发展阶段。它们在早期深度神经网络的基础上，通过（1）在包含数千小时记录的大规模脑电数据集上进行模型预训练；以及（2）使用自监督学习，为下游预测任务提供灵活性。这种设置与早期的深度神经网络（包括卷积架构 EEGNet[17 (https://arxiv.org/html/2608.13676#bib.bib17)] 和混合卷积-Transformer 模型 EEGConformer[18 (https://arxiv.org/html/2608.13676#bib.bib18)]）形成对比，后者需要从头开始针对特定任务进行训练。  
当前的脑电基础模型采用多种深度神经网络架构进行大规模自监督表征学习。所有模型都直接从脑电信号（即时间-通道输入）中学习自监督表征。早期模型，如 BENDR[19 (https://arxiv.org/html/2608.13676#bib.bib19)]，将语音分析中的对比预测框架适配到脑电，而较新的模型如 BIOT[20 (https://arxiv.org/html/2608.13676#bib.bib20)]则采用掩码训练从大规模语料库中学习时间依赖性。其他工作则专注于改进输入表征，包括引入离散神经标记化的 Labram[21 (https://arxiv.org/html/2608.13676#bib.bib21)]，以及结合时频融合以更好捕捉频谱结构的 FoME[22 (https://arxiv.org/html/2608.13676#bib.bib22)]。Cbramod[23 (https://arxiv.org/html/2608.13676#bib.bib23)] 等模型明确分离了空间和时间注意力机制，而 LUNA[24 (https://arxiv.org/html/2608.13676#bib.bib24)] 通过学习拓扑无关的潜在表征来应对数据异质性。  
虽然功能强大，但基础模型作为黑盒单元运行，直接从时间-通道输入数据中学习表征。这种策略实现了快速适应和跨数据集的强大性能，但其决策机制仍然难以解释。此外，当前的可解释人工智能技术试图量化输入-输出关系，无法在具有临床意义的频谱和空间域提供解释。另一方面，将领域相关信息整合到基础模型中在计算上成本高昂，需要架构更改和重新训练。综上所述，我们需要一种能够以最小开销直接提取基于生理学的解释的可解释性工具，这是迈向临床转化的关键一步。  

### I-B 深度学习流程中的可解释性  
当前的可解释人工智能方法并非旨在实现黑盒模型的完全透明，而是试图回答“为什么做出特定预测”这一问题。鉴于修改黑盒深度神经网络的难度，许多广泛使用的方法是事后进行的，在模型训练和推理之后操作。这些方法通常是模型无关的，并为模型预测分配“归因评分”以量化每个输入特征的贡献。值得注意的是，对于脑电基础模型，归因评分是基于时间-通道输入提供的，这在神经疾病的背景下可能难以解释[25 (https://arxiv.org/html/2608.13676#bib.bib25), 26 (https://arxiv.org/html/2608.13676#bib.bib26)]。  
从高层来看，事后解释器使用特定的规则通过神经网络反向传播信息，以计算归因评分。流行的方法包括：  
- • **逐层相关性传播（LRP）**：根据涉及不同传播规则（如用于神经网络的 ε 规则和 γ 规则，以及用于 Transformer 的定制规则）的守恒原则，将模型预测向后重新分配到网络中[27 (https://arxiv.org/html/2608.13676#bib.bib27), 28 (https://arxiv.org/html/2608.13676#bib.bib28), 29 (https://arxiv.org/html/2608.13676#bib.bib29), 30 (https://arxiv.org/html/2608.13676#bib.bib30), 31 (https://arxiv.org/html/2608.13676#bib.bib31)]。  
- • **积分梯度（Integrated Gradients）**：通过沿从基线到观测样本的路径，积分模型输出相对于输入的梯度来构建归因评分。该策略确保了归因的高度敏感性，并且在等效模型之间具有实现不变性[32 (https://arxiv.org/html/2608.13676#bib.bib32), 33 (https://arxiv.org/html/2608.13676#bib.bib33), 34 (https://arxiv.org/html/2608.13676#bib.bib34)]。  
- • **DeepLIFT**：通过比较神经元激活与参考基线，并通过网络传播这些差异来计算归因评分。这种方法允许在梯度饱和的区域也产生非零归因，从而提供更稳健的归因评分[35 (https://arxiv.org/html/2608.13676#bib.bib35), 36 (https://arxiv.org/html/2608.13676#bib.bib36), 37 (https://arxiv.org/html/2608.13676#bib.bib37)]。  
- • **SHAP**：分配对应于理论基础的 Shapley 值的输入级评分。DeepSHAP 通过将 SHAP 的归因原则与 DeepLIFT 式的传播相结合，将原始框架扩展到深度网络。这种结合使得能够对复杂模型中的 Shapley 一致性归因进行可扩展的近似[38 (https://arxiv.org/html/2608.13676#bib.bib38), 39 (https://arxiv.org/html/2608.13676#bib.bib39), 40 (https://arxiv.org/html/2608.13676#bib.bib40), 41 (https://arxiv.org/html/2608.13676#bib.bib41), 13 (https://arxiv.org/html/2608.13676#bib.bib13)]。  
鉴于脑电基础模型直接操作于时间-通道输入，使用任何这些事后方法获得的归因评分都表示在时间-通道域。然而，这种表示并不总是对临床医生具有可解释性或可操作性。例如，毫秒级的时间归因可能无法与跨越更长时间的临床相关模式对齐。同样，通道级归因可能会因为电极之间的强相关性而产生误导。如前所述，脑电中的临床现象通常与频谱（频域）和空间（源域）模式更相关。  

### I-C 我们的贡献  
在本文中，我们引入了 EEG-PRISM，即 **P**hysiologically-**gR**ounded **I**nterpretability of **P**rediction**S** by **EEG** foundation **M**odel**s**（基于生理学的脑电基础模型预测可解释性）。我们的工作在脑电分析方面包括几项新颖贡献：  
- • **一个数学基础框架**，利用 DFT 和逆建模，将脑电基础模型的归因映射到临床意义的频谱和源域。我们的理论贡献包括推导出的误差界限，以及通过反向传播确保与多个解释器的兼容性。  
- • **一种模型无关的事后方法**，无需对现有基础模型进行任何修改；EEG-PRISM 也具有最小的计算开销。  
- • **利用已知频谱和源域真实值的大量模拟研究**，证明了 EEG-PRISM 在五个不同脑电基础模型上的归因保真度。  
- • **在癫痫定位和自闭症生物标志物发现中的真实生物医学验证**。EEG-PRISM 既能支持个体特异性事件检测，也能支持组级神经特征表征。  
综上所述，我们提出了一个有价值的工具，将基于人工智能的脑电分析轨迹与临床和研究实践相统一。  

参见图注图 2：EEG-PRISM 用于在输入时间-通道空间之外的临床相关域进行可解释性的整体流程。上图：端到端实验设置，其中 EEG-PRISM 被事后应用于基础模型，以在频谱和空间域获得归因。左下图：EEG-PRISM 内将归因转换到新域。右下图：潜在的下游应用。  

## II 方法  
EEG-PRISM 利用**归因传播**原理，将基于时间-通道脑电输入空间操作的基础模型得出的解释，映射到具有临床意义的子空间。数学上，令 $X \in \mathbb{R}^{C \times T}$ 表示输入脑电，其中 $C$ 是通道数量，