比较用于解释抑郁症检测中黑盒EEG模型的事后可解释性AI方法

# 比较事后可解释性人工智能方法在解释抑郁症检测中的黑箱脑电图模型时的表现

来源：https://arxiv.org/html/2605.28977  
Antonia Šarčević, Nikolina Frid 萨格勒布大学电气工程与计算学院，克罗地亚 antonia\.sarcevic@fer\.unizg\.hr nikolina\.frid@fer\.unizg\.hr

###### 摘要

深度学习的最新进展使得基于脑电图 (EEG) 的重度抑郁症 (MDD) 分类越来越准确，但高容量模型的内部决策过程仍然难以解释。在本研究中，我们探讨了应用于训练用于EEG-based MDD检测的InceptionTime架构的多种事后可解释性方法的行为。分析包括基于Shapley、基于梯度和基于扰动的归因方法，即DeepSHAP、积分梯度、GradCAM、遮挡和置换特征重要性。在受试者级别的分层5折交叉验证框架内进行可解释性分析，使用跨EEG片段和受试者的全局归因聚合。评估的方法揭示了部分收敛的归因模式，其中重复强调额叶、颞叶和后部EEG区域，尤其是在右半球。定量比较进一步表明渐变和基于扰动的方法之间存在实质性一致性，而DeepSHAP产生了相对不同的归因分布。同时，观察到可解释性方法之间存在明显的变异性，突出了方法论假设对所得解释的影响。总体而言，结果表明，当应用于基于EEG的抑郁症检测深度学习模型时，不同的事后可解释性方法可能捕捉到部分重叠的相关性结构。尽管观察到的归因模式与先前在MDD的EEG研究中报告的几项发现大致一致，但本分析应被视为探索性研究，而非确定性神经生理学生物标志物或临床适用性的证据。该研究强调了事后可解释性在解释精神病学应用中的黑箱EEG分类器方面的潜在有用性和方法论局限性。

关键词：重度抑郁症 (MDD)；脑电图 (EEG)；可解释性人工智能 (XAI)；深度学习；InceptionTime

## 1 引言

重度抑郁症 (MDD) 是全球最常见和致残的精神疾病之一[23 (https://arxiv.org/html/2605.28977#bib.bib1)]。目前诊断主要依赖于基于症状的标准、临床访谈和标准化评定量表，但这些方法长期面临诊断重叠、效度不完善以及难以捕捉患者间具有临床意义的差异等问题[31 (https://arxiv.org/html/2605.28977#bib.bib29)]。这些局限性因症状异质性、与其他精神疾病的症状重叠、临床表现可变性以及缺乏客观的实验室诊断标志物而进一步加剧，使得MDD的诊断和管理特别具有挑战性[61 (https://arxiv.org/html/2605.28977#bib.bib2),50 (https://arxiv.org/html/2605.28977#bib.bib5),32 (https://arxiv.org/html/2605.28977#bib.bib6)]。这些挑战共同推动了持续的兴趣，即神经生理学测量是否可以为临床决策提供补充支持。

脑电图 (EEG) 作为一种非侵入性且广泛可用的神经影像学模态，作为MDD诊断和治疗相关评估的潜在补充信息源，一直吸引着持续的关注[33 (https://arxiv.org/html/2605.28977#bib.bib3)]。EEG已被研究用于诊断支持、亚型表征以及治疗相关变化的评估。大量研究探索了频谱、连通性和非线性信号特征，反复报道α波段测量、额叶α不对称性以及θ和γ相关活动的改变[30 (https://arxiv.org/html/2605.28977#bib.bib4),11 (https://arxiv.org/html/2605.28977#bib.bib11),53 (https://arxiv.org/html/2605.28977#bib.bib12)]。然而，尚未出现明确的EEG生物标志物共识，这反映了抑郁症的复杂性以及研究间显著的方法学变异性。

临床上相关的信息可能并非存在于单个生物标志物中，而是存在于重复出现的信号模式以及信号特征之间潜在的复杂相互作用中，这一可能性推动了越来越多地使用机器学习 (ML) 方法进行EEG分析。ML方法不仅依赖于传统分析或孤立的手工描述符，还可以利用EEG信号中难以明确描述或使用简单分析方法检测到的微妙多变量模式[1 (https://arxiv.org/html/2605.28977#bib.bib17),13 (https://arxiv.org/html/2605.28977#bib.bib18)]。无论是经典的特征基方法[26 (https://arxiv.org/html/2605.28977#bib.bib7),45 (https://arxiv.org/html/2605.28977#bib.bib8),9 (https://arxiv.org/html/2605.28977#bib.bib9)] 还是更近期的深度学习和时间序列分类模型，在MDD检测中都报告了有希望的结果[4 (https://arxiv.org/html/2605.28977#bib.bib13),58 (https://arxiv.org/html/2605.28977#bib.bib16),17 (https://arxiv.org/html/2605.28977#bib.bib15)]。

近期的高容量模型在基于EEG的MDD检测中取得了有希望的性能，但往往以降低可解释性为代价。许多用于生物医学时间序列分析的深度学习模型依赖于复杂的内部表示，其决策过程并不直接透明[29 (https://arxiv.org/html/2605.28977#bib.bib19)]。关于在医学等高风险管理领域部署不透明模型的担忧早已确立[49 (https://arxiv.org/html/2605.28977#bib.bib26)]，特别是在理解预测基础可能与预测性能本身一样具有临床相关性的场景中。

在此背景下，事后可解释性方法已成为分析黑箱模型行为的重要方法[40 (https://arxiv.org/html/2605.28977#bib.bib21),35 (https://arxiv.org/html/2605.28977#bib.bib23)]。除了提高透明度，可解释性还可能有助于将模型预测与生理上相关的EEG特征联系起来，并支持更广泛的临床解释[24 (https://arxiv.org/html/2605.28977#bib.bib27),44 (https://arxiv.org/html/2605.28977#bib.bib28)]。然而，不同的可解释性方法依赖于不同的假设，可能强调模型行为的不同方面，从而导致不同的解释[29 (https://arxiv.org/html/2605.28977#bib.bib19)]。尽管先前的研究通常侧重于预测性能或单个可解释性技术，但少有工作系统性地检查应用于同一EEG分类任务的多种事后可解释性方法之间的一致性与不一致性。

在这项工作中，我们将多种事后可解释性方法应用于InceptionTime模型[27 (https://arxiv.org/html/2605.28977#bib.bib32)]，用于基于EEG的MDD检测。目标不是提出新的可解释性方法，而是研究当应用于高性能黑箱时间序列分类模型时，既定的事后方法能提供哪些见解。具体来说，我们考察不同的可解释性方法是产生收敛的依赖于方法的模式，以及所得解释是否支持对模型行为的神经生理学上合理的解释。通过此分析，本研究旨在评估事后可解释性在解释黑箱EEG模型用于抑郁症检测时的潜力和局限性。

本文的其余部分组织如下。第2节提供了关于基于EEG的抑郁症检测、事后可解释性方法的主要类别以及可解释性技术在EEG研究中的应用的背景信息。第3节描述了研究中使用的材料和方法，包括数据集、模型架构和可解释性框架。第4节呈现了分类和可解释性结果。第5节讨论了所获得的发现、局限性以及研究的更广泛意义。最后，第6节总结全文并概述未来工作的潜在方向。

## 2 背景

### 2.1 基于EEG的抑郁症检测

对基于EEG的抑郁症检测的兴趣源于基于症状的精神疾病诊断的长期局限性，包括诊断重叠、临床表现异质性以及缺乏客观的实验室标志物[31 (https://arxiv.org/html/2605.28977#bib.bib29),61 (https://arxiv.org/html/2605.28977#bib.bib2),50 (https://arxiv.org/html/2605.28977#bib.bib5)]。因此，作为一种非侵入性且广泛可用的神经影像学模态，EEG已被研究作为诊断支持和治疗相关评估的潜在补充信息源[33 (https://arxiv.org/html/2605.28977#bib.bib3)]。大量研究报道了频谱、连通性和非线性信号特征的反复改变，包括α波段异常、额叶α不对称性、θ和γ相关活动、信号复杂性改变以及大规模协调中断[30 (https://arxiv.org/html/2605.28977#bib.bib4),11 (https://arxiv.org/html/2605.28977#bib.bib11),53 (https://arxiv.org/html/2605.28977#bib.bib12),14 (https://arxiv.org/html/2605.28977#bib.bib52),20 (https://arxiv.org/html/2605.28977#bib.bib50),10 (https://arxiv.org/html/2605.28977#bib.bib51)]。然而，尽管有反复的发现，尚未出现MDD的明确EEG生物标志物共识。

大多数早期的基于EEG的MDD检测方法遵循经典的机器学习流程，包括特征提取、特征选择和分类。这些方法通常依赖于从先前报道的EEG生物标志物或生物标志物样模式中导出的手工制作的频谱、统计、非线性或连通性描述符[8 (https://arxiv.org/html/2605.28977#bib.bib53),57 (https://arxiv.org/html/2605.28977#bib.bib54),54 (https://arxiv.org/html/2605.28977#bib.bib55)]。诸如决策树、逻辑回归、K近邻和支持向量机等传统分类器通过显式特征或更简单的决策结构提供了至少部分可解释性。此类方法还使得能够跨MDD亚型或相关精神疾病（包括双相情感障碍）对候选生物标志物进行实证比较。然而，报告的性能通常高度依赖于特征设计、数据集大小、预处理选择和评估协议，限制了跨研究的泛化性。

最近的EEG研究越来越多地采用将神经信号视为多变量时间序列的自动方法。与基于手工特征提取的经典流程不同，现代时间序列分类 (TSC) 模型可以直接从原始信号中执行自动特征提取[6 (https://arxiv.org/html/2605.28977#bib.bib31)]。通过在原始EEG记录上训练，此类模型可以学习复杂的表示，捕捉多尺度时间模式、跨通道交互以及传统手工描述符可能忽略的非线性特征[47 (https://arxiv.org/html/2605.28977#bib.bib30)]。因此，最近的研究越来越多地采用更高容量的模型，包括集成方法、基于图的神经网络架构、卷积神经网络、transformer以及操作于工程化或原始EEG表示的时间序列分类方法[43 (https://arxiv.org/html/2605.28977#bib.bib56),4 (https://arxiv.org/html/2605.28977#bib.bib13),58 (https://arxiv.org/html/2605.28977#bib.bib16),17 (https://arxiv.org/html/2605.28977#bib.bib15),36 (https://arxiv.org/html/2605.28977#bib.bib57)]。这些方法可以对复杂的多变量交互和时间依赖性进行建模，这些可能难以仅使用手工设计的描述符捕捉，并且经常报告更强的预测性能。然而，这种增加的预测能力通常伴随着可解释性的降低，因为深度或高容量模型的内部决策过程并不直接对应于明确定义的神经生理学描述符。

### 2.2 EEG研究中的可解释性

用于基于EEG的MDD检测的高容量模型使用增加，也增加了对能够探索原本不透明的决策过程的可解释性方法的兴趣。与经典的基于特征的流程相反，深度神经网络和其他高容量架构学习的内部表示并不直接对应于明确定义的神经生理学描述符，使得解释变得更加困难。如[29 (https://arxiv.org/html/2605.28977#bib.bib19)]中强调的那样，许多用于生物医学时间序列分析的高性能模型依赖于其决策过程不直接透明的复杂变换。此外，如[19 (https://arxiv.org/html/2605.28977#bib.bib24)]所论证的，深度神经网络通过高维插值而非稳定的人类可解释规则进行操作，这引发了对事后解释的可靠性和含义的更广泛问题。因此，关于在医学等高风险管理领域部署不透明模型的担忧早已确立[49 (https://arxiv.org/html/2605.28977#bib.bib26),7 (https://arxiv.org/html/2605.28977#bib.bib25),48 (https://arxiv.org/html/2605.28977#bib.bib20)]。

因此，解释越来越依赖于诸如SHAP、积分梯度、Grad-CAM、置换重要性和基于遮挡的分析等事后可解释性技术。与天生可解释的方法不同，这些解释是通过辅助分析程序事后推断出来的，而不是直接来自模型结构本身。除了提高透明度，生物医学信号分析中的可解释性还可能通过将模型预测与生理上相关的EEG特征联系起来，支持科学见解[24 (https://arxiv.org/html/2605.28977#bib.bib27)]。这在诸如MDD等精神疾病中尤其相关，因为与识别特征性信号模式、边界案例或值得进一步检查的特征相比，二进制预测本身可能提供的临床价值有限[44 (https://arxiv.org/html/2605.28977#bib.bib28),16 (https://arxiv.org/html/2605.28977#bib.bib22)]。因此，事后可解释性方法已成为分析黑箱EEG模型越来越重要的方法[40 (https://arxiv.org/html/2605.28977#bib.bib21),35 (https://arxiv.org/html/2605.28977#bib.bib23)]。

用于生物医学深度学习的事后可解释性方法通常分为几个概念类别，包括基于Shapley值的归因、基于梯度的归因和基于扰动的灵敏度分析。基于Shapley的方法使用源自合作博弈论的概念估计特征贡献，并提供理论基础的