标签
OmniSpectra 提出一种波长原生的光谱基础模型，采用连续坐标与物理约束解码器实现跨仪器表征学习，仅用 12.2M 参数即在八个巡天数据集上超越更大的基线模型，表明物理结构编码可以替代参数规模。
本文研究使用严格滑动窗口批量从连续视频流中进行自监督学习，提出了包含95小时数据的WT++城市漫步视频数据集，并提出了StreamMAE，通过流感知正则化与运动偏置裁剪，达到与i.i.d. MAE预训练相当的性能，并随流规模扩大而正向扩展。
MANAS-2引入了一种新的EEG基础模型，使用约束重建来增强潜在表示，并在多个数据集上的下游任务中提高性能。
本文介绍了Tactus，一种开放词汇触觉识别模型，将低成本压力阵列数据映射到文本嵌入，在STAG基准上仅使用187条训练记录且无分类器头的情况下，匹配甚至超过了监督式闭集CNN基线。
本文提出了用于体积显微镜数据的3D Masked Autoencoders，并展示了在下游单细胞任务中，3D建模优于2D最大投影和基于切片的变体，而通过与蛋白质语言模型的跨模态对齐进一步提升了性能。
介绍了BrainG3N，一种用于3D脑部MRI潜在扩散的双用途分词器，它使用冻结的掩码自编码器（MAE）编码器生成临床信息丰富的嵌入表示，并使用CNN解码器进行重建，在23个任务的基准测试中达到了最先进性能，并实现了可控生成和纵向预测。
本文提出CoAD，一种新颖的框架，统一了异常暴露（分类）和掩码自编码器（重建）两种范式用于时间序列异常检测，解决了它们各自的局限性。大量实验表明，CoAD在轻量快速的同时，显著优于现有最先进方法。