CGM-JEPA:通过预测性自监督预训练学习一致的连续血糖监测表征
摘要
介绍 CGM-JEPA,这是一种针对连续血糖监测数据的自监督预训练框架,通过掩码潜在预测和分布目标提升了跨模态及跨队列的性能。
查看缓存全文
缓存时间: 2026/05/11 14:53
论文页面 - CGM-JEPA:通过预测性自监督预训练学习一致的连续血糖监测表征
来源:https://huggingface.co/papers/2605.00933
摘要
一个针对连续血糖监测数据的自监督预训练框架,通过预测掩码潜表征并融入跨视图分布目标,实现了卓越的跨模态与跨队列性能。
连续血糖监测(CGM)能够检测早期代谢亚表型(如胰岛素抵抗、β细胞功能障碍),但在大规模人群部署中面临两个相互耦合的问题。首先,同一生理状态会通过多种视图呈现(如CGM时间序列、静脉血口服葡萄糖耐量测试、Glucodensity summari (https://huggingface.co/papers?q=ari)es),因此当部署场景发生模态或环境变化时,单一视图的表征将无法迁移。其次,基线方法在这些变化下表现不一致。这两个问题指向了同一种解决方案:所学习到的表征需要从任何单一视图中抽象出来,以捕获更高层次的时序与分布结构。我们提出CGM-JEPA,这是一个自监督预训练 (https://huggingface.co/papers?q=self-supervised%20pretraining)框架,它预测掩码潜表征 (https://huggingface.co/papers?q=masked%20latent%20representations)而非原始数值,从而产生可跨模态迁移的抽象表征。X-CGM-JEPA在此基础上增加了一个掩码Glucodensity跨视图目标 (https://huggingface.co/papers?q=cross-view%20objective),以获取互补的分布信息 (https://huggingface.co/papers?q=distributional%20information)。我们在来自228名受试者的约38.9万条无标签CGM读数上进行预训练,并在两个临床队列(N=27和N=17的公开子集)的三种评估场景(队列泛化 (https://huggingface.co/papers?q=cohort%20generalization)、静脉血到CGM迁移 (https://huggingface.co/papers?q=venous-to-CGM%20transfer)和家庭CGM场景)中,通过20次迭代2折交叉验证进行评估。在所有三种场景中,X-CGM-JEPA在两个终点的AUROC上都位居第一或第二,而所有基线方法均未能如此,其在队列泛化 (https://huggingface.co/papers?q=cohort%20generalization)上最高超出最强基线6.5个百分点,在静脉血到CGM迁移 (https://huggingface.co/papers?q=venous-to-CGM%20transfer)上最高超出3.6个百分点(配对Wilcoxon检验,p<0.001)。在模态偏移下,其平均AUROC与基线相当,同时性能向弱势子组重新分布(种族间AUROC差距缩小25-54%);在稀疏的域内静脉血数据上,分布视图提升了标签感知聚类 (https://huggingface.co/papers?q=label-aware%20clustering)效果(ARI (https://huggingface.co/papers?q=ARI)+39%,NMI (https://huggingface.co/papers?q=NMI)+40%)。代码与权重:https://github.com/cruiseresearchgroup/CGM-JEPA
查看 arXiv 页面 (https://arxiv.org/abs/2605.00933) 查看 PDF (https://arxiv.org/pdf/2605.00933) GitHub (https://github.com/cruiseresearchgroup/CGM-JEPA) 添加到集合 (https://huggingface.co/login?next=%2Fpapers%2F2605.00933)
在你的 agent 中获取这篇论文:
hf papers read 2605.00933
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
没有模型链接此论文
在模型 README.md 中引用 arxiv.org/abs/2605.00933 即可将其链接到此页面。
引用此论文的数据集0
没有数据集链接此论文
在数据集 README.md 中引用 arxiv.org/abs/2605.00933 即可将其链接到此页面。
引用此论文的Spaces0
没有Space链接此论文
在Space README.md 中引用 arxiv.org/abs/2605.00933 即可将其链接到此页面。
包含此论文的集合0
没有集合包含此论文
将此论文添加到一个集合 (https://huggingface.co/new-collection) 即可将其链接到此页面。
相似文章
CF-JEPA:利用不对称编码器进行无掩码前向预测的时间序列表示学习
提出CF-JEPA,一种无掩码的自监督学习框架,用于时间序列表示学习。该方法通过从随机裁剪中进行多视野前向预测,并利用在线编码器与指数移动平均目标编码器之间的不对称性,在分类、预测和异常检测任务上提升了性能。
STST-JEPA: 浅层目标时空联合嵌入预测架构用于EEG自监督学习
介绍STST-JEPA,一种用于EEG的自监督Transformer,可预测掩码令牌表示,并在47,703次会话上预训练,用于5-81岁年龄段的脑年龄回归。
@iScienceLuvr:学习稀疏潜在预测基础模型用于多模态神经影像 本文介绍了Neuro-JEPA,一个基…
本文介绍了Neuro-JEPA,一个基础模型,它使用潜在预测目标和混合专家架构来编码跨T1w、T2w和FLAIR序列的脑部MRI扫描,并在包含155万次扫描的大型数据集上进行了预训练。
HEPA:一种用于时间序列的自监督地平线条件化事件预测架构
本文介绍了 HEPA,这是一种用于预测时间序列中罕见关键事件的自监督架构,采用联合嵌入预测架构 (JEPA) 预训练策略。与领先的模型相比,它在多个领域均展现出卓越的性能,同时所需的标记数据和调整参数显著减少。
预测与重建:自监督语言表示学习的联合目标
本文提出了一种混合预训练目标,结合了JEPA潜在空间预测和MLM重建,用于语言模型,显示出改进的嵌入均匀性和语义-词汇平衡。