缩减穿戴设备上脑电图分析深度学习模型的复杂度

# 降低可穿戴设备上用于脑电图分析的深度学习模型的复杂度
来源：https://arxiv.org/html/2606.12742
Farough Shayeste Roodi¹, Parham Zilouchian Moghaddam¹, Mahdi Mohammadi-nasab¹, Mehdi Modarressi¹, Mostafa Ersali Salehi Nasab¹, and Masoud Daneshtalab²,³

###### 摘要

可穿戴医疗设备是物联网（IoT）中增长最快的领域。许多自动化医疗服务依赖于两种关键的生物信号，即心电图（ECG）和脑电图（EEG），它们分别反映心脏和大脑的活动。尽管深度神经网络被认为是处理和分析这些信号的主要方法，但可穿戴设备中极其严格的能量和计算能力限制远远低于深度神经网络模型对计算、能量和内存带宽的需求，从而阻碍了深度学习在许多实际可穿戴服务中的部署。本文研究了在资源受限的可穿戴设备中部署最先进深度神经网络模型的可行性。特别地，我们探讨了在应用参数量化和电极缩减方法时，深度神经网络在准确性与计算复杂度之间的权衡。我们的研究聚焦于几种专为脑电图信号分析（特别是癫痫发作检测）设计的最先进深度神经网络模型。我们的发现表明，当谨慎应用这些技术时，可以显著降低所考虑的深度神经网络的复杂度，同时对准确性的不利影响最小。这些结果揭示了在将基于深度神经网络的在线脑电图分析适配到可穿戴设备时，所遇到的准确性与复杂度缩减之间的明确权衡。

## 一、引言

可穿戴设备是嵌入衣物或佩戴在身体上（作为植入物或配件）的智能电子设备，用于自动监测用户的生命体征和生物数据。或许自动化医疗保健是可穿戴设备的主要应用：以医疗物联网（IoMT）[1]形式出现的可穿戴设备的普及，使得持续监测健康成为可能，特别是对于高风险患者，将零星的、手动的采样方式转变为持续监测和自动干预。

在可穿戴设备上分析某些传感器数据（如心率或血糖水平）只需要相当简单的计算。然而，一些重要且关键的生物数据，包括脑电图（EEG）信号，处理起来非常复杂。如今，深度学习（DL）被认为是脑电图分析的首要方法。深度学习是人工智能中最新的、最有前景的趋势，它利用深度神经网络（DNN）来学习解决问题[2]。有大量的用于脑电图信号分析的深度神经网络模型，这些模型采用不同的网络架构，如卷积神经网络（CNN）、长短期记忆（LSTM）循环网络、Transformer网络或其组合，来对脑电图样本进行分类并检测感兴趣的模式。

脑电图信号是通过将电极放置在头皮上的特定位置来记录的。它反映了大脑的电活动，被广泛用于检测神经系统的关键疾病和异常。健康人的脑电图表现出特定的活动模式，任何因神经系统疾病和失调而偏离这种正常模式的情况都可以通过脑电图分析检测出来[3]。也许最著名的例子是癫痫：它是影响全球超过5000万人的最常见的神经系统疾病之一[4]。通过持续监测高风险患者，可以根据脑电图信号的特定变化提前检测到癫痫发作[5]。除了医疗目的，可穿戴设备上的脑电图分析在其他领域也有多种应用，包括基于脑电图的智能汽车[6]和驾驶员困倦检测、情绪识别[7]以及现代脑机交互（BCI）等[8,9]。

临床脑电图分析是一种医院设备，长期以来一直是脑部疾病诊断和评估的重要组成部分。持续的实时脑电图监测依赖于这种设备的轻量级、便携版本，它将传感器单元（一组用于捕获信号的电极和放大器）和处理单元（用于分析数据或将其传输到远程设备）集成到可穿戴设备中。

在预期达到与医院设备相同准确性和性能的可穿戴设备上部署实时脑电图分析是相当具有挑战性的。特别是，为了实现医疗环境外全天候的患者监测，可穿戴设备应使用简单的处理单元和低电池消耗。一般来说，严格的能量和资源限制是可穿戴设备的共同特征。它们受限于使用微型处理器和小型纽扣电池，以保持系统的电池寿命、重量和大小合理，从而不影响用户的舒适度。在这些限制下，充分利用复杂的深度神经网络模型在可穿戴设备上变得极具挑战性：一个中等规模的用于脑电图处理的深度神经网络模型需要几十万到数百万次算术运算来处理一个单一时间窗口的脑电图[10]。虽然临床脑电图监测设备可以部署强大的图形处理器（GPU）或微处理器（CPU）来实时运行此类算法，但这种负载对可穿戴设备来说是相当 prohibitive 的。许多现有的可穿戴设备在严格的资源限制下运行，通过将计算密集型任务卸载到远程云计算机，并通过无线连接传输收集的数据进行处理。然而，由于一些实际问题，包括持续无线数据传输的高功耗、数据隐私和安全性的丧失、自主性的丧失以及对始终在线的无线互联网连接的需求，始终存在对所谓边缘处理的强烈需求，即在可穿戴设备内（或附近）进行脑电图处理，以提高响应速度、能效和隐私性。这种本地处理与数据传输之间的权衡并非生物信号所独有：例如，在新兴的视频物联网中，深度模型允许资源受限的边缘摄像头传输低比特率视频——同时减少节点上的计算和带宽——而感知质量在下游重建[11]。

本文研究了在资源受限系统中部署当前最先进的深度神经网络的可行性。我们专注于通过分析脑电图信号检测癫痫发作的模型。本文的主要贡献是探索低位宽量化对这些深度神经网络模型的影响。主要发现包括：

**最优网络配置：** 我们比较了几种最先进的用于癫痫发作检测的深度神经网络模型在可穿戴设备条件下的准确性。基于结果，一个结合了基于CNN的特征提取模块和后端LSTM的模型在平衡准确性和执行速度方面最为有效。然后我们继续使用这个选定的模型进行研究。我们表明，当所有特征图和参数数据都缩减为8位整数表示时，这种配置可以保持输出完整性，且错误增加极小。

**参数二值化：** 本文探索了最先进的LQNet二值化方法[12]的应用，该方法将参数和特征图的位宽缩减到4位。结果表明，即使在这种显著的量化下，模型仍能保持功能有效性。

**电极缩减的影响：** 本文还研究了减少电极数量对模型性能的影响。它成功识别了维持准确性所需的最小电极集，为优化可穿戴设备中的脑电图设置提供了宝贵见解，其中减少电极数量对于降低设备复杂度和提高用户舒适度至关重要。

请注意，本文没有开发任何新的用于脑电图分析的深度神经网络模型；相反，它评估了在应用所提出的复杂度缩减方法时一些现有方法的性能。

本文的其余部分组织如下。第二部分回顾了背景材料并介绍了所考虑的用于脑电图分析的深度神经网络模型。第三部分介绍了模型量化方法和结果，随后在第四部分进行电极缩减。最后，第五部分总结全文。

## 二、背景与相关工作

### A. 用于脑电图的深度神经网络

用于脑电图分析的深度神经网络。关于基于深度神经网络的脑电图分析的最新进展的综述可见[13]。最近一项工作[13]评估了一些用于脑电图分析的深度神经网络模型组合。结果表明，结合CNN（捕获脑电图的空间特征）与RNN（捕获脑电图的时间特征）的方法达到了最高准确性。基于Transformer的方法最为稳健。然而，这些方法的主要目标是性能，并未考虑可穿戴设备的硬件限制[14]。

可穿戴设备中的深度神经网络。大多数现有的基于边缘的可穿戴系统用更简单（但准确性较低）的替代方法来处理脑电图，而不是使用效率更高的深度神经网络[15,16,17]。一个例子是e-Glass项目[17]，这是一个可穿戴系统，使用嵌入患者眼镜中的四个脑电图电极来检测癫痫发作。它使用一个简单的微控制器来分析数据，因此不采用深度神经网络；相反，它使用一种更简单的决策树方法来检测脑电图中的异常。

虽然大多数基于深度神经网络的脑电图处理方法针对云端系统，但最近一些论文已经解决了对用于生物信号分析的基于边缘的深度神经网络加速器芯片的需求[18]。

### B. 选定的用于脑电图分析的深度神经网络模型

本节介绍在寻找基础模型时考虑的最重要的网络。所有模型均取自[19]和[20]中的近期研究。

- **CNN-LSTM：** 使用前端的ResNet网络从信号中提取特征。ResNet是一个强大且准确的CNN模型。然后将特征馈送到LSTM网络，以从观察到的特征序列中生成有意义的信息。
- **ChronoNet网络[20]：** 在RNN之上使用多个滤波器层来检测输入信号中的特定模式。
- **ResNet18网络：** 是一个基于ResNet的模型，将信号作为图像处理。
- **2D-CNN-LSTM网络：** 与ResNet-LSTM的架构不同，它使用2D-CNN层代替ResNet。将其纳入比较有助于确定使用更深且具有跳连的ResNet层对所选定模型各方面的影响。
- **ResNet-BiLSTM：** 在ResNet-LSTM结构中，用双向LSTM（称为BiLSTM）替换LSTM。
- **ResNet-GRU：** 使用前端的GRU代替LSTM。

### C. 比较标准

我们使用多种标准将我们的模型与其他几个模型进行比较，以展示其能力和实际性能。以下是我们用于此目的的标准：

- **AUROC：** 接收者操作特征曲线下面积（AUROC）是评估二分类模型性能的指标。其值介于0到1之间，值越高表示区分两类的能力越好。计算涉及在不同阈值下绘制真正率与假正率的曲线，并找到曲线下的面积。
- **AUPRC：** 精确率-召回率曲线下面积（AUPRC）是评估二分类模型性能的指标，特别适用于不平衡数据集。值越高表示性能越好。该指标衡量在不同阈值下绘制精确率（阳性预测值）与召回率（真正率）的曲线下的面积。
- **TPR：** 真正率（TPR），也称为灵敏度或召回率，是二分类中用于确定模型正确识别的实际阳性结果比例的指标。其计算方式为真正数除以真正数与假负数之和。
- **TNR：** 真负率（TNR）是二分类中用于评估模型识别实际阴性结果能力的指标。也称为特异性。TNR的计算方式为真负数除以真负数与假正数之和。
- **F1分数：** F1分数是二分类中用于评估模型准确性的指标。它将精确率和召回率结合为一个分数。分数计算为精确率（真正数除以真正数与假正数之和）和召回率（真正数除以真正数与假负数之和）的调和平均值。

### D. 噪声与伪影

脑电图信号极易受到各种形式的退化影响，这些退化使得准确的数据分析变得复杂。大致分类，这些失真表现为结构性伪影或随机噪声。生理伪影直接源于身体活动，例如眨眼和视网膜偶极子（眼动）、吞咽或说话时的肌肉收缩以及心血管波动（心源性）[21]。另一方面，外在或环境噪声源自外部硬件和实验设置，包括电力线干扰（通常为50/60 Hz）、高频仪器噪声和电极位移瞬态[22,21]。由于这些重叠的污染物可能模仿或强烈掩盖微妙的潜在神经振荡，因此一个稳健的去噪过程对于防止误导性的临床解释或有缺陷的下游机器学习分类至关重要[23]。应用了几种不同的方法来清理这些信号。去除伪影的常用方法包括简单的数字滤波器、回归方法、自适应滤波器、独立成分分析（ICA）和标准的监督深度学习模型[23]。监督深度学习模型可以通过在带有干净参考的噪声信号上进行训练来学会抑制此类伪影。然而，本文考虑的癫痫发作检测模型是作为分类器直接在真实的、包含伪影的脑电图上进行训练的，而不是作为去噪器；对这些伪影的鲁棒性是通过在真实数据上训练分类任务来实现的。