self-supervised-learning

标签

Cards List
#self-supervised-learning

驱动 vs. 衰减:论 Joint-Embedding Predictive Architecture 的训练动力学

arXiv cs.LG ↗ · 2026-10-05 缓存

该论文为 Joint-Embedding Predictive Architecture 构建了一套早期训练稳定性理论,通过驱动/衰减稳定性比率将各类经验性的崩溃规避启发式方法统一起来,并预测出一条相边界,该边界已在 800 多种 Tabular-JEPA 配置上得到验证;论文同时提出了一个名为 ResidualPred 的 transformer 预测器,在表格数据与 I-JEPA 图像基准上均提升了有效秩与准确率。

0 人收藏 0 人点赞
#self-supervised-learning

哪些任务能在自监督学习中存活?

arXiv cs.LG ↗ · 2026-10-02 缓存

这篇 Texas A&M 的论文提出了「语义可恢复性」的概念,用于解释哪些下游任务能够在同一样本自监督学习(self-supervised learning)中被保留下来,并将可恢复性与类别距离归一化方差、少样本最近质心迁移,以及 SSL 目标函数中跨视图稳定模式所张成的谱子空间联系起来。

0 人收藏 0 人点赞
#self-supervised-learning

面向科学领域的终端环境自监督扩展

Hugging Face Daily Papers ↗ · 2026-10-02 缓存

提出软件在环重构(software-in-the-loop reconstruction)的自监督框架,从现有科学软件工作流中自动生成可执行的参考行为与验证目标,用于训练终端智能体;使用 Qwen3.8-Max 生成训练数据并对 Qwen3.8-27B 微调,使 Terminal-Bench 2 平均性能从 47.94% 提升至 53.56%。

0 人收藏 0 人点赞
#self-supervised-learning

@randall_balestr: 非常高兴能分享我们在 JEPA 上的最新进展,以及对更有原则的解决方案的需求,以处理数……

X AI KOLs Following ↗ · 2026-10-01 缓存

Randal Balestrero 宣布他将在 MICCAI-FOMO26 上做主旨演讲,分享联合嵌入预测架构(Joint-Embedding Predictive Architectures, JEPA)的最新进展,以及对数据不平衡、噪声、多模态和推理等问题采取更有原则的解决方案的必要性。

0 人收藏 0 人点赞
#self-supervised-learning

PHASE:面向颅内脑电的生理机制引导层级式基础模型

arXiv cs.LG ↗ · 2026-09-30 缓存

PHASE 是一个面向颅内脑电(iEEG)的生理机制引导层级式基础模型。它将生理学特征作为显式学习目标,与掩码潜变量预测相结合,在五项 Omni-iEEG 临床任务上刷新了当前最优性能,并能泛化到训练中未见过的医疗机构。

0 人收藏 0 人点赞
#self-supervised-learning

JEPA-TTT:面向动力学分布偏移下规划的潜空间世界模型持续测试时训练

Hugging Face Daily Papers ↗ · 2026-09-30 缓存

JEPA-TTT 在测试时通过自监督密集重放(dense replay)对预训练 JEPA 世界模型的潜空间动力学预测器进行适应,在四个连续控制环境中,相比冻结模型,潜空间预测误差降低 83%,规划性能提升 153%,从而改善了动力学偏移下的规划表现。

0 人收藏 0 人点赞
#self-supervised-learning

我有一段视频流:让自监督学习在连续视频中奏效

Hugging Face Daily Papers ↗ · 2026-09-30 缓存

本文研究使用严格滑动窗口批量从连续视频流中进行自监督学习,提出了包含95小时数据的WT++城市漫步视频数据集,并提出了StreamMAE,通过流感知正则化与运动偏置裁剪,达到与i.i.d. MAE预训练相当的性能,并随流规模扩大而正向扩展。

0 人收藏 0 人点赞
#self-supervised-learning

平流感知图临近预报何时有益?一项使用自监督云运动估计器的分布式太阳能爬坡预测控制性研究

arXiv cs.LG ↗ · 2026-09-29 缓存

本文对平流感知图临近预报在分布式太阳能爬坡预测中的应用进行了控制性研究,发现准确的云运动特征与图结构同样重要,并引入了一种自监督估计器以减少预测误差。

0 人收藏 0 人点赞
#self-supervised-learning

Atelier: 通过超网络学习CryoEM体积的局部自监督特征

arXiv cs.AI ↗ · 2026-09-28 缓存

Atelier引入了一种自监督超网络框架,该框架为CryoEM密度图生成隐式神经表示,使得局部特征提取成为可能,并提升下游注释任务的性能。

0 人收藏 0 人点赞
#self-supervised-learning

EvolvingAvatar: 随对话展开而自适应的交互式3D头部生成

Hugging Face Daily Papers ↗ · 2026-09-28 缓存

EvolvingAvatar 引入了一个因果性3D头部生成系统,该系统使用测试时训练实时适应对话上下文,在对话场景中增强运动统计。

0 人收藏 0 人点赞
#self-supervised-learning

TT-VidT:解耦时间轴以实现高效以运动为中心的视频预训练

Hugging Face Daily Papers ↗ · 2026-09-27 缓存

TT-VidT 是一种新的视频预训练方法,通过解耦时间轴来高效建模运动,在以运动为中心的基准测试上实现了最先进的结果,同时降低了计算成本。

0 人收藏 0 人点赞
#self-supervised-learning

哪种掩码几何最适合EEG基础模型?

Hugging Face Daily Papers ↗ · 2026-09-27 缓存

本文系统评估了EEG基础模型在MAE和JEPA框架下的掩码策略,识别了最佳配置和一种新的故障模式,以减少计算量达到与REVE相当的性能。

0 人收藏 0 人点赞
#self-supervised-learning

用于Multi-Wire Parallel Plate Avalanche Counters中联合导线校准与交互位置重建的物理信息自监督学习

arXiv cs.LG ↗ · 2026-09-25 缓存

引入了一种物理信息自监督学习框架,用于校准和重建Multi-Wire Parallel Plate Avalanche Counters中的位置,仅使用探测器几何结构和电荷约束,消除了对标记数据或专用校准运行的需求。

0 人收藏 0 人点赞
#self-supervised-learning

基于Frank-Wolfe的约束自监督组合优化

arXiv cs.LG ↗ · 2026-09-23 缓存

本文提出了一种通用的自监督学习框架,用于解决约束组合优化问题,采用Frank-Wolfe方法处理约束条件,并在旅行商问题、最大覆盖问题和二次分配问题等任务上取得了显著的实验成果。

0 人收藏 0 人点赞
#self-supervised-learning

EMGBlend: 异质性感知的自监督预训练用于手势和力解码

arXiv cs.LG ↗ · 2026-09-23 缓存

EMGBlend 引入了一个自监督框架,用于在异构EMG数据集上进行预训练,解决电极布局、频率范围和数据源不平衡的差异,以改进手势识别和力解码任务。

0 人收藏 0 人点赞
#self-supervised-learning

基于深度表示学习的手机位置数据每日活动模式建模

arXiv cs.LG ↗ · 2026-09-22 缓存

本文提出Activity Chain Encoder (ACE),一个自监督模型,能从无标签的手机位置数据中学习每日活动模式,并证明了其在识别伦敦等城市环境中差异化活动模式的有效性。

0 人收藏 0 人点赞
#self-supervised-learning

学习心脏特征:时间与运动变化下的ECG生物识别

arXiv cs.AI ↗ · 2026-09-21 缓存

该论文评估了在运动应激与跨时段差异的真实场景下使用孪生ResNet模型进行ECG生物识别的性能,达到了顶尖性能水平。

0 人收藏 0 人点赞
#self-supervised-learning

Tactile-JEPA:拓扑感知的自监督表示学习用于分布式触觉传感器

Hugging Face Daily Papers ↗ · 2026-09-21 缓存

Tactile-JEPA是一种用于分布式触觉传感器的自监督预训练方法,它利用空间拓扑学习表示,提升了机器人学中力估计和方向任务的性能,优于先前的最先进方法。

0 人收藏 0 人点赞
#self-supervised-learning

@hooshaaii: LLMs shouldn't guess facts; they should use tools. "Toolformer" (2023) trains LMs to self-teach how to use external API…

X AI KOLs Timeline ↗ · 2026-09-20 缓存

Toolformer trains language models to self-teach how to use external APIs like calculators and search engines via self-supervised learning, significantly improving zero-shot performance across tasks.

0 人收藏 0 人点赞
#self-supervised-learning

用于药物重定位候选物实用筛选的预训练医学表示

arXiv cs.LG ↗ · 2026-09-18 缓存

本文提出了一种新的统一预训练框架,用于医学代码序列,能够捕获层次结构和复杂交互,并在临床事件预测和阿尔茨海默病的药物重定位案例研究中展示了优越的性能。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈