Omni-Sleep:基于中枢-自主神经系统动态分层对比学习的睡眠基础模型

arXiv cs.LG 论文

摘要

Omni-Sleep 是一种睡眠基础模型,它利用分层对比学习从多模态多导睡眠图中捕捉中枢神经系统-自主神经系统动态,在睡眠分期和多疾病分类上优于强基线模型。

arXiv:2607.07720v1 Announce Type: new 摘要:睡眠生理学源于中枢神经系统(CNS)和自主神经系统(ANS)的协调动态,这由包括脑电图(EEG)、眼电图(EOG)、肌电图(EMG)、心电图(ECG)和呼吸信号在内的多模态多导睡眠图信号所反映。然而,现有的睡眠基础模型通常以拓扑无关的方式融合异构生物信号,忽视了它们的生理组织。我们提出了 Omni-Sleep,这是一种睡眠基础模型,它利用 CNS/ANS 划分作为生理先验进行拓扑约束的表示学习。Omni-Sleep 通过三个目标学习结构化表示:系统内一致性,捕捉神经和心肺信号中共享的子系统级因素;系统间同步,对齐子系统轨迹以建模脑-体动态;以及潜在空间掩码时序建模,捕捉长时程睡眠动态。在超过 10 万小时的多中心多模态 PSG 数据上预训练后,Omni-Sleep 在睡眠分期和多疾病分类任务上进行了评估。跨数据集和模态消融设置,Omni-Sleep 优于强基础模型基线,显示出更高的标签效率、跨数据集泛化能力以及对缺失模态的鲁棒性。这些结果突显了生理层次结构对于可泛化睡眠表示学习的价值。代码见 https://github.com/AutoBrain-sleep/OmniSleep。
查看原文
查看缓存全文

缓存时间: 2026/07/10 06:10

# Omni-Sleep:通过中枢神经系统-自主神经系统动力学的层次对比学习构建睡眠基础模型
来源:https://arxiv.org/html/2607.07720
\\通讯作者

\*同等贡献。🖂通信作者:[email protected]。\\代码链接https://github.com/AutoBrain-sleep/OmniSleep

周杰侯\* 南方科技大学 生物医学工程系,深圳,中国;Omni-Intelligence,深圳,中国
王松\* 南方科技大学 生物医学工程系,深圳,中国;Omni-Intelligence,深圳,中国
娄可新\* 南方科技大学 生物医学工程系,深圳,中国;Omni-Intelligence,深圳,中国
王默 南方科技大学 生物医学工程系,深圳,中国;Omni-Intelligence,深圳,中国
陈伟 南方科技大学 生物医学工程系,深圳,中国;Omni-Intelligence,深圳,中国
刘泉影🖂 南方科技大学 生物医学工程系,深圳,中国;深圳环域研究所,深圳,中国;Omni-Intelligence,深圳,中国

###### 摘要

睡眠生理学源于中枢神经系统(CNS)和自主神经系统(ANS)的协调动力学,这由多模态多导睡眠图(PSG)信号(包括EEG、EOG、EMG、ECG和呼吸信号)所反映。然而,现有的睡眠基础模型往往以拓扑无关的方式融合异质性生物信号,忽视了它们的生理组织。我们提出Omni-Sleep,这是一个利用CNS/ANS分区作为生理先验来进行拓扑约束表示学习的睡眠基础模型。Omni-Sleep通过三个目标学习结构化表示:系统内一致性(捕获神经和心肺信号中共享的子系统级因素)、系统间同步(对齐子系统轨迹以建模脑-体动力学)以及潜在空间掩码时间建模(捕获长时程睡眠动力学)。Omni-Sleep在超过10万小时的多中心多模态PSG数据上预训练,并在睡眠分期和多疾病分类任务上进行了评估。跨数据集和模态消融设置下,Omni-Sleep优于强基础模型基线,表现出更高的标签效率、跨数据集泛化能力以及对缺失模态的鲁棒性。这些结果凸显了生理层次结构对于可泛化睡眠表示学习的价值。代码可在https://github.com/AutoBrain-sleep/OmniSleep获取。

###### 关键词:

睡眠;自监督学习;多模态PSG;基础模型

## 1 引言

睡眠是一个动态的生理过程,受中枢神经活动与自主心肺调节之间的协调交互所支配[thomas2005electrocardiogram, bashan2012network]。在临床实践中,这种脑-体耦合通过多导睡眠图(PSG)捕获,它记录了跨EEG、EOG、EMG、ECG和呼吸通道的异质性信号。这些信号不仅对睡眠分期有信息价值,而且对于评估通过睡眠生理学改变而表现出的多系统健康风险也至关重要[lyu2025dynamic, abdalbari2022brain, thapa2024sleepfm, Fox2025AFT, goldammer2022investigation]。最近针对神经数据的自监督基础模型表明,大规模预训练可以学习可迁移的脑表征,并减少对昂贵专家标签的依赖[jiang2024large, wang2026omni, chien2022maeeg, wang2026flexibrain, xia2026brain, wang2025slim, xia2026brainworld]。这一范式也已通过在多导睡眠图记录上的大规模预训练被应用于睡眠分析[gerardy2023approach, thapa2024sleepfm]。然而,现有的多模态方法通常在一个统一的表示空间中对齐异质性生理信号,忽视了它们的生理组织[liu2024automatic, thapa2024sleepfm, phan2021xsleepnet, seo2020intra]。这种扁平融合忽略了PSG的一个关键特性:CNS衍生信号和ANS相关信号遵循不同的生理流形,但展现出阶段依赖和时变同步性[yetton2018quantifying, de2018dynamic]。在实际部署中,这些局限性在域偏移和模态缺失的情况下会被放大[chien2022maeeg]。

参见标题图1:Omni-Sleep针对实际PSG部署。

为弥补这一差距,我们提出Omni-Sleep,这是一个利用CNS/ANS分区作为生理先验来构建拓扑约束的睡眠表示学习的基础模型。Omni-Sleep在超过10万小时的多中心PSG数据上预训练,结合了层次对比学习以捕获系统内一致性和系统间耦合,以及长时程潜在预测以建模宏观睡眠动力学。在多个独立队列中,Omni-Sleep在标签稀缺和模态缺失设置下的睡眠分期和睡眠障碍评估中展现出强大的泛化能力和鲁棒性。本工作的主要贡献总结如下:

- • **结构感知基础模型**:我们提出Omni-Sleep,这是一个睡眠基础模型,利用CNS/ANS划分作为生理先验,同时学习子系统级和跨系统表示。
- • **层次预训练框架**:Omni-Sleep结合了系统内对比学习、系统间对齐和长时程潜在预测,以捕获结构化的CNS-ANS睡眠动力学。
- • **跨任务SOTA性能**:跨数据集和模态消融设置,Omni-Sleep持续改进了域外迁移、标签效率和对缺失模态的鲁棒性,在睡眠分期和多疾病分类任务中优于最先进的基线方法。

## 2 相关工作

### 2.1 睡眠中的CNS-ANS耦合

睡眠生理学反映了协调的CNS-ANS动力学,展现出皮质活动与心肺自主节律之间阶段依赖和时变的耦合[thomas2005electrocardiogram, bashan2012network, lyu2025dynamic]。这种耦合通过心率变异性及其他自主标记物的系统性变化与睡眠阶段转换密切相关,并展现出超越静态相关性的结构化时间组织[de2018dynamic]。最近的工作进一步通过联合分析睡眠中的EEG和心脏动力学来建模脑-心交互[abdalbari2022brain]。这些发现启发了结构感知的学习目标,该目标区分稳定的组内模式与跨组同步,而非依赖单一的扁平融合算子。

### 2.2 多模态PSG表示学习

多模态PSG模型通常通过架构融合来提高性能[yue2024research],包括早/晚融合[duan2021novel]、交叉注意力[mostafaei2024novel]、具有共享头的模态特定编码器[kontras2024core],以及具有手工特征融合的任务特定编码器[phan2021xsleepnet, seo2020intra]。虽然结合神经和心肺信号有利于睡眠分期及相关任务,但大多数方法仍将模态视为可交换的视图,并通过通用注意力或特征拼接将其对齐到统一的表示空间中[liu2024automatic, thapa2024sleepfm],忽视了它们的生理组织。这促使从扁平融合转向基于CNS-ANS生理学中结构化跨信号依赖性的拓扑感知目标[de2018dynamic]。

### 2.3 有限监督与部分可观测性

实际睡眠监测受限于专家标签稀缺、传感器脱落和不完整采集方案导致的采集不完整,以及跨临床中心和记录设备的分布偏移[gerardy2023approach]。受最近从大规模脑记录中学习可迁移神经表示的自监督基础模型启发[jiang2024large, wang2026omni, xia2026brain],睡眠特定的SSL方法通过掩码建模和对比跨模态对齐减少标签依赖[chien2022maeeg, thapa2024sleepfm],并通过插补、蒸馏或子集融合提高对缺失模态的鲁棒性[kontras2024core]。然而,许多管道仍强调波形重建或单一共享嵌入空间中的扁平全局对齐,这可能模糊互补线索,并在部分可观测性和域偏移下性能下降。我们转而采用结构化对比目标,在相关信号组内强制执行一致性,同时在组间进行对齐,从而产生在实际部署条件下更鲁棒的表示。

### 2.4 睡眠动力学中的局部-全局同步

睡眠建模需要同时捕捉epoch内的微观结构(如纺锤波和K复合波)以及整夜的非平稳动力学[yetton2018quantifying]。许多管道处理30秒epoch,并通过下游时间模块注入更长上下文[seo2020intra],通常是RNN/LSTM,或更近期的Transformer[phan2022sleeptransformer, thapa2024sleepfm]。JEPA风格的学习则强调潜在空间预测,优先考虑结构化时间规律性而非波形重建,以应对长时程动力学[lecun2022path, assran2023self]。受此启发,我们设计了互补的微观和宏观预训练通路,并强制其一致性以在表示空间中诱导局部-全局同步。

## 3 方法

参见标题图2:Omni-Sleep预训练。**微观**目标捕获CNS和ANS信号中的系统内一致性,而**宏观**目标建模系统间同步和长时程睡眠动力学。

### 3.1 问题形式化

PSG包含一组同步的生理模态X=\{X^(m)\}_{m∈M},其中每个X^(m)被分割成一系列30秒的epoch。我们通过将模态划分为CNS子集M_C(EEG、EOG和EMG)和ANS子集M_A(ECG和呼吸)来显式编码生理信息M,其中M = M_C ∪ M_A。我们的目标是预训练一个多模态编码器,该编码器既保留组内一致性,也保留跨组同步性。

### 3.2 模态编码器

对于每种模态m,我们使用轻量级一维卷积补丁编码器将原始epoch信号X^(m)转换为一系列潜在token:

H^(m) = f^(m)(X^(m)), H^(m) ∈ ℝ^{T × D}, (1)

其中T是token长度,D是潜在维度。

为建模长程时间依赖,token通过一个模态特定的序列编码器g_seq^(m)(带有旋转位置编码的RoFormer),提供上下文化token S^(m) = g_seq^(m)(H^(m)),S^(m) ∈ ℝ^{T × D},以及通过池化获得的epoch级嵌入:

s^(m) = Pool(S^(m)) ∈ ℝ^D。 (2)

我们将用于对比学习的投影表示记为z^(m) = ψ(s^(m)),其中ψ(·)是一个小型MLP投影头。

### 3.3 层次对比学习

Omni-Sleep优化一个层次对比目标,该目标(i)在CNS内部和ANS内部强制**系统内一致性**(微观尺度),以及(ii)在池化的CNS和ANS摘要之间保留**系统间耦合**(宏观尺度)。

#### InfoNCE目标。

给定锚点表示z_i及其正样本z_i^+,我们使用标准InfoNCE:

ℓ_NCE(z_i, z_i^+) = -log( exp(sim(z_i, z_i^+)/τ) / Σ_{j=1}^{B} exp(sim(z_i, z_j)/τ) ), (3)

其中sim(·,·)是余弦相似度,τ是温度,B是批次大小,负样本是mini-batch中的其他样本。

#### 微观(系统内)对比学习。

对于子系统S ∈ {M_C, M_A}内的每种模态m,我们构建正样本为同一子系统和同一epoch中其他模态的均值:

z^(m)+ = (1 / (|S|-1)) Σ_{m'∈S\{m}} z^(m')。 (4)

系统内损失为

L_intra = Σ_{S∈{M_C, M_A}} Σ_{m∈S} ℓ_NCE(z^(m), z^(m)+)。 (5)

这鼓励每种模态与共享的子系统表示一致,从而在部分通道缺失时提高鲁棒性。

#### 宏观(系统间)对齐。

为显式建模脑-体耦合,我们形成池化的子系统摘要

z_C = (1/|M_C|) Σ_{m∈M_C} z^(m), z_A = (1/|M_A|) Σ_{m∈M_A} z^(m)。 (6)

然后使用对称InfoNCE对齐CNS和ANS摘要:

L_inter = ℓ_NCE(z_C, z_A) + ℓ_NCE(z_A, z_C)。 (7)

#### 对比目标。

拓扑感知对比损失为

L_c = L_intra + λ L_inter, (8)

其中λ控制CNS-ANS耦合的强度。

### 3.4 长时程潜在掩码建模(宏观尺度)

单个epoch内的局部形态不足以捕获长程睡眠动力学。因此,我们引入一个基于包含多个连续epoch窗口(例如,1.5小时的长上下文)的长时程掩码预测目标。对于每种模态m,我们在一个窗口中收集epoch嵌入:

E^(m) = [h_1^(m), ..., h_L^(m)] ∈ ℝ^{L × D}, (9)

其中L是长窗口中的epoch数量。我们随机掩码一个子集Ω的epoch位置,并将未掩码序列输入时间RoFormer以预测掩码位置的嵌入:

ĥ_t^(m) = g_pred^(m)(E_(∖Ω)^(m)), t ∈ Ω。 (10)

我们使用ℓ_1重建损失来鼓励鲁棒的长时程表示:

L_p = Σ_{m∈M} Σ_{t∈Ω} || h_t^(m) - ĥ_t^(m) ||_1。 (11)

相似文章