@NielsRogge: NEPA 现已添加至此：查看底部的评价以与其他模型进行比较
摘要
NEPA 是一种新的视觉自监督学习和生成式预训练方法，它通过自回归方式预测下一个嵌入，并已添加至一个基准测试中用于评估。
查看缓存全文
缓存时间: 2026/06/02 17:36
NEPA 现已添加至此：
请查看底部的评估指标，与其他模型进行对比 👀 https://t.co/TwMmtXEiiT
Martin Ziqiao Ma (@ziqiao_ma): NEPA：下一个嵌入预测自回归（Next-Embedding Predictive Autoregression）
一个用于视觉自监督学习和生成式预训练的简单目标。我们不再重建像素或预测离散 token，而是训练一个自回归模型，根据之前所有嵌入来预测下一个嵌入。
关键想法：
相似文章
前瞻聆听：下一音频补丁嵌入预测实现可扩展音频学习器
NAPE是一个自监督音频学习框架，使用因果Transformer预测下一频谱图补丁嵌入，在多个音频和语音基准测试中实现最先进的性能，采用极简设计。
注解版JEPA
联合嵌入预测架构（JEPA）用于自监督学习的逐步注解实现与解释，涵盖I-JEPA、V-JEPA和LeJEPA。
NodeJEPA: Structure-Conditioned Latent Prediction for Node-Level Graph Self-Supervised Learning
This paper introduces NodeJEPA, a joint-embedding predictive architecture for node-level graph self-supervised learning that predicts latent representations of masked structure-aware ego-subgraphs, avoiding reconstruction and hand-crafted augmentations. The method is evaluated on node classification benchmarks and shows competitive performance.
ENEAS：用于自适应分割的嵌入引导型神经集成方法
ENEAS是一篇新论文，提出了一种基于嵌入引导的神经集成方法，用于解决实例跟踪与语义识别中的问题，从而实现更高效的自适应分割。
@AbdelStark: 是时候让世界服下JEPA药丸了！awesome-jepa：一份精心整理的论文、模型、代码、数据集和学习资源列表……
一份精心整理的关于Joint Embedding Predictive Architectures（JEPA）的论文、模型、代码、数据集和学习资源列表，这是Yann LeCun提出的用于世界模型的自监督方法。