@kyutai_labs:许多世界模型借用文本到视频生成器的视频自编码器,随之而来的是每一次操作都有明显的延迟……
摘要
Kyutai Labs 发布 CADRE,一款开源的因果扩散表示自编码器,消除了文本到视频生成器带来的延迟问题,使实时世界模型能够在单块 GPU 上更快地做出反应。
查看缓存全文
缓存时间: 2026/10/22 19:49
许多世界模型直接沿用了文生视频生成器的视频自编码器,导致每次动作都有明显的延迟。
今天,我们发布 CADRE——开放的因果扩散表征自编码器(open CAusal Diffusion REpresentation autoencoders),让实时世界模型在单块 GPU 上实现快速响应 🧵
为什么会有延迟?为了在低成本下达到高帧率,视频自编码器会把多帧打包进同一个潜在表示(latent)。因此,一个 latent 必须等所有相关动作输入后才能生成。
打包的帧数越多,延迟就越明显!
我们构建了 7 个具有不同时空压缩率的 CADRE 模型,研究压缩策略如何影响交互式世界模型的表现。
编码器基于我们 Rocket League 世界模型 MIRA 的方案(冻结的 DINOv3 + 压缩层)。解码器采用因果扩散训练,并通过自蒸馏压缩至单步推理。
我们在多种任务上训练了相同的世界模型方案:机器人与人类操作、驾驶和室内导航。
与 Wan 2.2、Cosmos、LTX-2、DC-AE 和 MIRA 的自编码器相比,CADRE 在延迟-质量前沿面上占据了大部分位置。
发现 1:强压缩 latent 从扩散解码器中获益,而且解码器可以很快。
像 MIRA 那样的回归解码器会把一个 latent 可能对应的所有视频模糊成一团,而扩散解码器则从中选出一个清晰的视频。通过自蒸馏为单步流匹配(flow matching),我们的解码器保持了高效。
发现 2:时间维度的压缩最好在自编码器中完成,而不是在世界模型中。
在世界模型内部对帧分组会同时降低图像质量和运动质量,而且帧数分组越多,差距越大。当分组帧数达到 8 帧时,动作跟随能力也明显下降。
发现 3:操作任务和导航任务需要正交的压缩策略。
在操作任务中,相机几乎不动,因此在时间维度上打包连续帧代价很小。而在导航任务中,整个视野都在变化:应让帧在时间上保持分离、在空间上进行压缩,这样也能保持低延迟。
发现 4:在操作任务中,更粗粒度的 token 几乎不影响画面质量,但会损害运动质量和动作跟随能力。
像 FID 那样逐帧评估生成轨迹,会掩盖大部分实际出现的问题。
我们还研究了这些世界模型仅从视频和动作中学到了哪些世界属性?
布料在没有被抓住的地方自然下垂、毛巾被折叠、其他车辆自行行驶、以及我们刻意驶离的、没有任何录制驾驶员经过的道路。
我们开源了多个成果:训练与推理代码、模型,以及一个可以用键盘操控世界模型的演示 👇
论文:https://arxiv.org/abs/2610.30129 博客、代码与演示:https://kyutai.org/blog/2026-10-22-cadre…
作者:@RamaAdrien @YutongBAI1002 @nico_dufour @ptrkprz @david_picard
相似文章
VideoRAE:通过表示自编码器驯服视频基础模型进行生成建模
本文介绍了VideoRAE,一种表示自编码器,它利用冻结的视频基础模型来创建紧凑、可重建且利于生成的视频潜在表示。该模型在UCF-101上取得了最先进的结果,且收敛速度优于其他自编码器。
@kyutai_labs:许多生成模型在自编码器的潜在空间中工作;当这个空间组织良好时,它们训练更快、生成效果更好。
Kyutai Labs 预告了一篇论文:通过将预训练模型蒸馏到自编码器的潜在空间中来组织该空间,并探讨当源空间和目标空间结构不同时这一方法如何奏效。这很可能是一篇研究预印本,旨在通过构建结构更好的潜在表示来改进生成模型的训练。
MiniWorld:从零训练视频世界模型的民主化
MiniWorld 是一个可复现的框架,用于从零训练视频世界模型,采用带流匹配的块因果视频扩散变换器,能够实现高效的流式生成,并可在单台 8-GPU 服务器上数天内完成训练。
@songhan_mit: SANA world model的因果版本已发布,使得在单个H100上实现接近实时推理:
SANA世界模型的因果版本已发布,可在单个H100 GPU上实现接近实时的视频生成推理,并附带开源代码和演示。
@yukangchen_: 我们发布了一篇博客:“Why Video Gen Is an Infra Problem”。 https://research.nvidia.com/labs/eai/blogs/video-gen-is-an-i…
NVIDIA研究博客认为,长视频生成正在成为一个基础设施问题,需要在模型、内存、KV缓存、VAE解码、调度和部署基础设施上进行全栈协同设计,并以LongLive 2.0作为案例研究。