标签
一项可在笔记本电脑上完成的复现实验，仅使用 COCO 人工撰写的图像描述和 1100 万参数的文本编码器，验证了 Balestriero 和 LeCun 关于“优质视图胜过下一词元预测”的主张，确认了性能排序（在与 DINOv2 的相互 10 近邻指标上，优质视图为 0.320 > 劣质视图为 0.192 > 下一词元预测为 0.148），同时指出检索性能差距较小，且存在规模限制。
本文提出了一种受控评估框架，将独立类别支持与表征分配分离，以确定在长尾识别中进行分类器校正后，何时仍值得对编码器进行适配，并表明仅改变基准的构建方式就能逆转这一训练决策。
该论文采用上下文马尔可夫决策过程（MDP）来描述持续强化学习，将上下文划分为行为和物理两个组成部分，并使用 Dyna-Q 和 TD-MPC 在 FourRooms 任务中研究世界模型的零样本复用。研究发现，物理上下文的变化会显著降低复用效果，而影响程度取决于观测表示。论文指出，表示的泛化能力是持续强化学习中可靠复用世界模型的关键瓶颈。
本文评估了冻结的视频表征，发现视频世界模型中的潜在预测误差反映的是外观和运动，而非可靠地衡量物理意外性，并提出了一个在 IntPhys2、Physion++ 和 Kubric 基准上将表征内容与误差信号分离的框架。
Yann LeCun 和 Randall Balestriero 通过数学方法证明了 Platonic Representation Hypothesis（柏拉图式表征假说），并表明使用与场景相关的正样本视图进行 JEPA 训练，可以用减少42倍的数据实现图文对齐。其中，一个1.09亿参数的文本 JEPA 模型在跨模态基准测试中超越了高达720亿参数的 LLM。
CHORD提出了一种跨模型幻觉检测（CMHD）框架，将LLM隐藏状态表示为层级-词元-特征关系图，通过关系感知注意力与元学习获得可迁移到未见目标模型的检测信号，在跨模型泛化上优于现有检测方法。
论文将柏拉图表征假说转化为定理，证明在多种模态上分别训练的 JEPA 会收敛到共享表征（至多相差一次旋转），并指出下一个词预测本质上是使用"劣质视图"的 JEPA——这使其在跨模态对齐上效率远低得多（优质视图所需样本少 42 倍）。
论文提出了 ImagiRep——一个基于模拟器的基准，表明空间推理的收益来自超越 RGB 的多样化表征；同时提出了 GEARS——一种轻量级的测试时策略，可自适应地选择表征，以改进对未观测状态的推理。
提出LOTUS框架，通过低秩多线性分解从LLM隐藏状态中提取紧凑表示以检测幻觉，在多个LLM和问答基准上超越现有最先进方法。
对五个公开的 EEG 基础模型和一个内部开发的 JEPA 风格模型进行的受控评估表明，随机初始化、频带功率基线以及通过验证集选择的探测层，会显著改变在睡眠、情绪和运动想象基准测试中报告的预训练增益。
该论文提出一个理论框架，分析监督对比学习目标在长尾分布下是否能形成正则单纯形几何，并提出一种完全平衡的对比目标，可证明在最优时形成正则单纯形，从而在长尾识别和迁移学习任务上取得更好的性能。
Google 推出 EmbeddingGemma 2，一个统一文本、图像、音频与视频表示的开源多模态嵌入模型，采用简化逐层嵌入与多阶段训练课程，在各模态基准上建立新的帕累托前沿，性能超越大 2 至 12 倍的模型。
本文提出可见状态监督（Visible-State Supervision，ViSS）与测试时因果视图搜索（Test-Time Causal View Search，TVS），在流式视频理解中将表示学习与证据选择分离开来，以远更少的处理帧数在 StreamingBench 和 OVO-Bench 上达到最先进精度。
OmniSpectra 提出一种波长原生的光谱基础模型，采用连续坐标与物理约束解码器实现跨仪器表征学习，仅用 12.2M 参数即在八个巡天数据集上超越更大的基线模型，表明物理结构编码可以替代参数规模。
本文将柏拉图表征假说拓展至机器人领域，提出感觉运动对齐（S²）作为一种离线代理指标，用于衡量模型的感觉表征与末端执行器轨迹之间的重叠程度，并证明其在视觉-语言-动作模型（VLA）、世界动作模型（WAM）及真实机器人策略中均与下游任务成功率相关。
文章介绍了一种名为"Next-Concept Modeling"的新范式，主张生成式AI应先生成抽象概念、再生成文字，而非直接以词为输出单位，有望改变现有生成式AI的建模方式。
TRACE 是一个训练感知的基准测试框架，将 168 个文本-视觉嵌入任务重新组织为通用（General）、适应性（Adaptability）和挑战性（Challenge）三大类别。研究发现，数据适配能够提升模型的适应性，但在解决具有挑战性的多语言任务和视觉文档任务方面仍然收效甚微。
论文提出正交边界遗忘（OBU）框架，通过将参数更新限制在激活协方差的正交零空间中，在大语言模型中消除双用领域（如网络安全、生物、化学、核工程）的危险能力，同时不损害良性科学能力，避免概念混淆。
本文对参数梯度流的表示动力学完全由表示本身决定的情形进行了分类，证明了宽双因子矩阵表示下的初始化分类，并将通常的闭合性与解析和光滑情形下的不变层级度量分解联系起来。
本文提出"决策充分性"这一框架，用于评估学习得到的表示接口（如选定的稀疏自编码器特征）是否保留了足够的信息，以使控制器能够安全地引导语言模型。该研究对 Qwen2.5、SmolLM2 和 Phi 进行了审计，发现在安全关键决策中存在可测量的信息损失。