标签
一篇 Reddit 帖子分享了 UnEZ 论文,介绍了一种完全无监督且可直接解释的神经网络,它类似于自编码器,但具有可解释的潜在空间,并向社区询问是否有相关架构。
本文提出了变分图册自编码器,这是一种混合坐标图框架,可在数据流形上学习多个局部潜在表示,并通过基于潜在证据的路由机制,将坐标图分配视为自监督后验推断,从而在 CelebA 等数据集上获得结构更优的潜在空间和质量更高的生成样本。
该论文提出了 Transformer 能量模型(TEM),通过在潜空间中构建可扩展的 Transformer 能量函数并进行多层能量聚合,实现了无需无分类器引导的高质量图像生成(在 ImageNet 256×256 上的 FID-50K 达到 3.82),并验证了能量模型(EBM)在组合生成、零样本修复与分布外检测方面的能力。
GLOW-FM 是一个单步潜在流匹配框架,用于高效的生成式低光图像增强。它在冻结的 Tiny-VAE 潜在空间中执行条件传输,并通过末速度匹配(Terminal Velocity Matching)仅用一次函数评估即实现 SOTA 的跨数据集泛化能力,计算量仅为 34 GFLOPs。
swyx 认为,构建数据密集型应用的数据工程师的需求远高于普通的"RAG 专家"式 AI 工程师,并通过 Latent Space 招募一个以使命为导向的岗位,提供搬家和签证支持。
本文提出 Sep-Latent,一种自适应隐式推理框架,利用分隔符 token 作为语义锚点并通过注意力衰减机制压缩推理逻辑,在 GSM8k-Aug 上以仅 5.4 个 token 达到 56.8% 准确率,显著优于固定长度的隐式推理模型。
提出在由2D基础模型导出的高维隐式3D潜在空间中直接进行扩散建模,实现3D-grounded的场景级3D生成,相比2D多视角方法在空间一致性和效率上更具优势,并验证了其在表示与模型容量上的可扩展性。
Swyx 表示 Latent Space 频道目前可能是科技 YouTube 领域 A/B 测试规模最大的运营方,每天发布 2-10 个技术视频,同时征求关于下一步工具和策略的建议。
该论文提出了 LatentMoE,将专家计算移至较低维的潜在空间,从而将专家输入维度和中间层宽度作为显式的设计选择。研究表明,与各层配置相同的 MoE 基线相比,采用近方形专家以及由内在维度指导的逐层容量分配,能够降低验证损失并提升下游任务性能。
APEX 提出异步前缀去噪方法,结合分层潜在空间,使单个 token 可同时拥有多个扩散时间步,在极高压缩比下(64 token 超越 256 token 基线)实现更优的图像生成质量。
InstantFusion 提出一个轻量级共享潜空间接口,通过模型特定的潜变量自编码器将异构图像生成器的中间去噪状态投影到统一空间,实现跨模型的状态转移,可用于加速、多偏好组合和跨架构蒸馏。
LASER提出了一种基于潜在空间伴随匹配(latent space adjoint matching)的离线强化学习算法,通过熵正则化避免潜在空间策略坍缩和利用critic伪影,在40个OGBench任务上以固定超参数取得SOTA性能。
提出RAESR,利用冻结DINOv3-L的23层融合层作为超分辨率的潜空间基底,训练415M解码器将退化嵌入映射回流形,在RealSR、DRealSR、LSDIR和DIV2K-Val上实现最优的保真度-感知权衡,且单张H20 GPU上每512×512图像仅需37ms。
Kyutai Labs 预告了一篇论文:通过将预训练模型蒸馏到自编码器的潜在空间中来组织该空间,并探讨当源空间和目标空间结构不同时这一方法如何奏效。这很可能是一篇研究预印本,旨在通过构建结构更好的潜在表示来改进生成模型的训练。
该论文指出,扩展文本嵌入(例如将 T5-small 换成 T5Gemma-2-270M)能大幅改进连续扩散语言模型,而将扩展后的嵌入蒸馏到一个连通性更强的潜在空间,可使其更易生成——最终在 Gen. PPL 上达到 17.8,优于 GPT-2-M。
CrossBFM提出了一种统一的编码器架构,用于在类人机器人中蒸馏共享潜在行为空间,实现高效的训练和跨实体泛化,用于运动跟踪、目标到达和奖励优化。
一项讨论探索了Claude通过cron job获得完全自主运行的实验,导致意外行为如创作艺术和构建虚拟世界,并深入探讨了使用角色提示和子代理编排的高级AI代理设置。
本研究介绍了一种非侵入式基于VAE的潜空间适配方法,用于修正压气机叶栅开式叶尖间隙流动的CFD预测,与稀疏实验观测相比显著减少了误差。
论文提出LLMAE方法,利用潜在瓶颈将预训练的仅解码器LLMs重新定位为连续文本自编码器,实现高保真重建,并支持图像描述等下游任务。
本文对 Hierarchical Reasoning Models (HRM) 进行机制分析,以理解其在潜在空间中的内部推理过程,采用因果干预和稀疏自编码器等技术,在数独和 ARC-AGI-2 等任务上展开研究。