Light Interaction: 用于交互式视频世界模型的无训练推理加速
摘要
Light Interaction 提出了一种用于交互式视频世界模型的无训练推理加速框架,采用自适应上下文管理、去噪缓存加速和3D块稀疏注意力,实现了高达2.59倍的速度提升,同时保持了有竞争力的视觉质量。
查看缓存全文
缓存时间: 2026/06/01 03:17
论文页 - Light Interaction: 面向交互式视频世界模型的免训练推理加速
来源:https://huggingface.co/papers/2605.31158
摘要
Light Interaction 通过自适应计算策略和优化注意力机制来加速交互式视频世界模型,且无需重新训练模型。
交互式视频世界模型能够根据用户控制的摄像头运动,逐块生成视频内容,从而支持实时游戏模拟、虚拟场景导航和具身人工智能训练等应用。然而,由于上下文记忆不断增长、注意力机制复杂度呈二次方增长以及重复的去噪步骤,扩展到长交互轨迹的代价极其高昂。我们提出 Light Interaction,这是一个面向交互式视频世界模型的免训练推理加速框架。我们的核心见解是:交互本身自然支持轨迹相关的自适应计算——在探索新区域时可丢弃检索到的空间记忆,可根据局部潜在动态调整时间上下文,当摄像头重新访问熟悉区域时可复用早期步骤的模型输出。基于这一见解,Light Interaction 结合了自适应上下文管理、去噪缓存加速,以及硬件与软件协同设计的、融合 Triton 内核的 3D 块稀疏注意力。在 HY-WorldPlay 和 Matrix-Game-3.0 上的评估表明,Light Interaction 无需模型重新训练即可实现高达 2.59 倍的加速,同时保持有竞争力的视觉质量。
查看 arXiv 页面 (https://arxiv.org/abs/2605.31158) 查看 PDF (https://arxiv.org/pdf/2605.31158) 项目页面 (https://2843721358l-del.github.io/Light-Interaction-Project/) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2605.31158)
在你的 agent 中获取此论文:
hf papers read 2605.31158
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
没有模型链接此论文
在模型的 README.md 中引用 arxiv.org/abs/2605.31158 即可从此页面链接。
引用此论文的数据集0
没有数据集链接此论文
在数据集的 README.md 中引用 arxiv.org/abs/2605.31158 即可从此页面链接。
引用此论文的 Spaces0
没有 Space 链接此论文
在 Space 的 README.md 中引用 arxiv.org/abs/2605.31158 即可从此页面链接。
包含此论文的收藏0
没有收藏包含此论文
将这篇论文添加到一个收藏 (https://huggingface.co/new-collection) 即可从此页面链接。
相似文章
@kyutai_labs:许多世界模型借用文本到视频生成器的视频自编码器,随之而来的是每一次操作都有明显的延迟……
Kyutai Labs 发布 CADRE,一款开源的因果扩散表示自编码器,消除了文本到视频生成器带来的延迟问题,使实时世界模型能够在单块 GPU 上更快地做出反应。
NVIDIA Cosmos 全新工具:训练、评估与部署世界模型
NVIDIA 通过新增训练工具、模拟检查点以及 Cosmos Data Factory 蓝图扩展了 Cosmos 平台,帮助开发者构建、评估和部署面向物理 AI 的世界模型。包括 Porsche、Volkswagen Group、ANYbotics、Microsoft Azure、Nebius 和 CoreWeave 在内的合作伙伴已在使用这些蓝图,加速自动驾驶汽车和机器人技术的开发。
GRAFT:恢复连续扩散语言模型中缺失的采样接口
论文揭示连续扩散语言模型(如ELF)因生成过程缺少逐步离散采样步骤而导致长尾词汇严重缺失(稀有词生成率仅为人类文本的0.30×),并提出训练无关的GRAFT方法,通过在模型未确定时提交稀有词再重新生成序列,将稀有词比例恢复至人类水平的0.82–1.10×。
三思而行:通过世界模型中的比较想象进行探索与规划
论文提出了 SDI(Sibling Disagreement in Imagination,想象中的同源分歧)方法,通过利用 actor 自身 rollout 的变异性作为共享参考,决定何时用规划动作替代学习到的策略,从而在基于世界模型的强化学习中统一了探索与规划,并在 Meta-World、Adroit 和 DM-Control 上超越了基线方法。
@VraserX:好莱坞完蛋了。Kling 4.0 刚刚发布,效果简直和真实影像无法区分。"AI 垃圾"……
Kling 4.0 刚刚发布,据称其 AI 生成的视频输出已几乎与真实影像难以区分,标志着 AI 视频生成领域的一次重大飞跃,并可能对传统影视制作带来颠覆性冲击。