标签
本文提出了密度引导的自举边界,这是一种用于控制潜在世界模型强化学习中想象回报深度的自适应机制,证明了门控贝尔曼算子的收缩性,并展示了该机制在 DreamerV3 框架下的连续控制和 Atari 任务中提升样本效率的效果。
该论文提出了一种基于 Transformer 的文本自编码器,采用残差式下采样/上采样和离散瓶颈结构,在网络文本上实现了每字节 2.24 比特的压缩率——这是文献中文本自编码器所达到的最高压缩率——同时保持了出色的重建质量和下游任务性能。
Latent-Foresight 提出了一种端到端框架,联合学习隐空间分词器与基于流的生成式动力学模型,显式地为时序可预测性构建隐空间结构,在未来场景理解任务上优于两阶段流水线方法。
本文提出了一种条件生成潜在框架,用于编码连接组图,实现储备池计算中的重建、生成和功能分析,并提供任务特定结构机制的见解。
本文介绍了 LLAMIA-Bench 和一种称为潜在状态内化的方法,以增强语言模型与非语言代理之间的协作,表明内化连续表示优于口头化,并与前沿模型如 GPT-5.1 相匹配。
本文提出SAIL方法,通过解纠缠和表示人类技能为可解释的多维嵌入,以增强行为预测和AI教练,重点在于鲁棒性和泛化性。
本文分析了转换器表示在扰动下的稳定性,通过证明收敛结果,为神经网络潜在表示中的结构收敛假说提供了支持。
VisualPatchWorld 提出了一种将世界动力学学习为代码的方法,能够从数据中构建可检查和可编辑的模拟器。在导航和操作任务中,它实现了强大的规划成功率。
本文介绍了C-MTP,一种用于训练连续思维链模型的直接监督方法,该方法将推理轨迹压缩为潜在表示。该方法在简单任务上表现良好,但揭示了直接和间接监督方法在处理复杂长推理轨迹时均存在困难,性能下降约65%。
本文研究了任务需要世界模型中的多少结构,表明目标的维度决定了模型安装了多少预测方向,而常见的标量奖励目标只是价值等价性的秩一角。
本线程展示了一个理论结果,表明预测抽象的潜在表征(如JEPA和data2vec)而非原始词元,可以指数级地缩小人工智能与人类学习之间的数据差距。
本文介绍了学习的中继表示(Relay),一种使掩码扩散模型能够在去噪步骤之间传播潜在信息的方法,克服了硬重置问题并改善了性能-延迟权衡。该方法在编码任务上优于标准的监督微调,同时将推理延迟降低高达32%。
Sub-JEPA通过在冻结的随机正交子空间中应用高斯正则化来改进LeWorldModel,在基准测试中一致优于原始版本,改进幅度高达+10.7个百分点。
介绍了 Next-Latent Prediction (NextLat),这是一种自监督目标,训练 Transformer 预测其下一个潜在状态,鼓励形成紧凑的内部世界模型,并提高跨序列建模任务的泛化能力。