representation-learning

The paper proposes 'predictive closure,' a set-level characterization of how JEPA selects features to encode, showing that feature retention depends on relationships within feature sets rather than individual predictability, with experiments demonstrating that unpredictable features can be preserved when they aid prediction of others.

The paper introduces a self-supervised representation learning framework that uses temporal proximity as supervision to learn compact representations from short-term animal movement trajectories, showing they reveal individual identity and learning progress in freely behaving rats.

该论文提出将系统的本体状态定义为在给定查询空间上的完整响应谱，研究通过预测学习到的状态能在多大程度上恢复真实状态，并在合成系统与神经记录中给出预测-恢复的理论保证。

This paper proposes a post-hoc latent projection method for latent world model planning that prunes noisy latent directions by fitting the state dynamics matrix and restricting the ℓ2 planning cost to the least-uncertain subspace, reporting up to +54.7 points success-rate gains on 2D navigation tasks like TwoRoom and PointMaze.

ALPS is a pretrained ViT-B/16 visual state encoder for world models that unifies physical-state prediction, language alignment, and pixel reconstruction in a single patch-token representation, achieving state-probe performance matching the 3.5x larger V-JEPA 2-L and 85.5% mean policy success on LIBERO when paired with its native text tower.

OverSeer introduces a multi-agent world model that augments egocentric agent views with fixed auxiliary camera views acting as a world-centric representation, compressed via delta-VAE to cut token computation, showing improved consistency in Minecraft and Doom.

Slot-JEPA 将 JEPA 的稠密表示分解为可复用的语义槽与空间掩码，提供面向对象的预测接口，并结合 Transition Memory Predictor 与非平衡最优传输提升视觉理解迁移和目标条件规划，在七项视觉基准与 REALM-JEPA 机器人规划任务上取得改进。

该论文区分了表征相似性的两种度量——原生余弦几何与线性可恢复性，并在五个模型族的天文数据集嵌入上发现，模型规模主要提升线性对齐后的邻域对应，而非原生几何收敛。

该论文研究了奖励模型中的涌现性错位（Emergent Misalignment），发现对 Skywork-Reward-V2 奖励模型进行窄域有害微调会泛化到七个未见领域，并通过几何压缩与内容特异性旋转两种机制解释了偏好反转的实现方式，表明奖励模型比语言模型更易受此影响。

FlexUMM提出了一种灵活的统一多模态模型框架，动态决定何时保留共享计算、何时路由专门化容量、何时提前停止处理，从而在提升理解与生成任务准确性的同时提高计算效率，可作为即插即用模块增强现有UMM。

This paper shows that null controls alone are insufficient for validating scientific discovery and interpretability systems, demonstrating that acceptance tests like closure can be passed by scientifically empty candidates, and proposes combining multiple criteria to both accept genuine results and reject nulls.

提出在由2D基础模型导出的高维隐式3D潜在空间中直接进行扩散建模，实现3D-grounded的场景级3D生成，相比2D多视角方法在空间一致性和效率上更具优势，并验证了其在表示与模型容量上的可扩展性。

SpecMRL 提出在参数化谱空间中重新组织特征以改进嵌入的前缀读出，在 MTEB 上以更少的嵌入维度超越标准 MRL 及其全维表现。

A perspective paper proposing a four-stage research agenda (Ground, Structure, Verify, Act) for interpreting JEPA-based latent world models, arguing interpretability should shift from decoding representations to understanding how latent variables interact, evolve, and causally drive prediction.

提出了一个将持久同调整合进DMAE骨干网络的拓扑感知表示学习框架，用于编码三周期极小曲面(TPMS)机械超材料的全局结构连通性，在机械属性无监督聚类上提升最高达51.5%，回归R²达0.993。

该论文提出开放世界AI需要三项核心要求：推理时学习、丰富表示和预测性解纠缠，并在最大880亿参数的语言模型上验证了满足这些要求的模型能从相关任务数据中持续提升，而其他模型则会退化。

MaSS 通过解耦结构表征与上下文特征并引入场景结构判别目标，使自监督单目深度估计可扩展到多样场景训练，并在零样本评估中展现出强大的跨域泛化能力。

论文提出DualView，一种利用冻结LLM提取广泛与输出特定表示、通过双分支架构联合预测多个数值目标的参数高效多输出文本回归方法，在五个任务、八个LLM上超越七个监督基线，且训练参数量减少82–1842倍。

HiPPT是一个生理学基础的可穿戴PPG表示学习框架，通过多范围文本对齐（记录级形态对齐与跨记录上下文对齐）在超过400万条腕部PPG记录上预训练，在血压、血管僵硬度等六项下游任务的线性探测中取得最佳结果，并支持年龄组、性别和BMI的零样本画像。

该论文对九种主流类增量学习（CIL）方法在五个冻结的蛋白质编码器上的表现进行了系统基准测试，发现没有方法能可靠跨编码器迁移，并分析了失败源于嵌入几何异质性与不稳定的梯度稳定性信号，主张持续学习设计应将表征本身作为核心组件。