World in World: 用世界模型探索世界

Hugging Face Daily Papers 论文

摘要

本文介绍了 World in World,这是一个无需训练的接口,可以通过使用对应引导查询和基于证据的注意力指导,在冻结的自回归视频世界模型中实现灵活的相机和时间控制。

自回归视频世界模型能够实现交互式的长期探索,但灵活控制仍然具有挑战性。从新视角探索源视频要求生成的序列与记录事件保持同步,将观察到的内容放置在所需视图中,合理地完成新暴露区域,并在重访时恢复先前生成的外观。现有方法通常通过特定任务的模块或额外训练来满足这些需求。我们提出了 World in World,一个无需训练的推理时接口,它将异构控制证据转换为带有相机和时间标签的干净视觉状态,这些状态通过冻结因果视频模型的原生自注意力机制读取。证据包括源视频观察、目标视图场景投影、指导新暴露主体区域完成的几何渲染,以及滚动缓存之外的检索生成状态。每个证据源都带有令牌级别的支持和自身的可用性调度。对应路由器将持久点标识与几何信息结合,建立令牌对应关系,引导支持查询匹配源视频令牌。然后,基于证据的注意力CFG(EWA)使用相同去噪前向传递中的注意力响应,独立调节每个辅助通道的额外贡献。该共享接口支持使用相同冻结骨干网络进行相机控制的重渲染、长期重访和人体动作迁移。我们在多样视角变化下评估了 World in World 在相机控制视频重渲染中的表现,评估了感知质量、时间一致性和相机跟随准确性。
查看原文
查看缓存全文

缓存时间: 2026/09/11 06:16

论文页面 - 世界中的世界:用世界模型探索世界

来源:https://huggingface.co/papers/2609.11548

摘要

一种无需训练的接口,通过利用原生自注意力机制结合对应关系引导查询与逐通道注意力引导,实现异构视觉证据的路由,从而在冻结的自回归视频世界模型中实现灵活的镜头与时间控制。

自回归视频世界模型(https://huggingface.co/papers?q=Autoregressive%20video%20world%20models)支持交互式、长期探索,但灵活控制仍具挑战。从新视角探索源视频需要生成的扩展序列与录制事件保持同步、将观测内容置于请求视角中、合理补全新暴露区域,并在重访时恢复先前生成的外观。现有方法通常通过特定任务模块或额外训练来满足这些需求。我们提出“世界中的世界”,这是一个无需训练的推理时接口,可将异构控制证据转换为带有镜头和时间标签的干净视觉状态,并通过冻结因果视频模型的原生自注意力机制读取。证据源包括:源视频观测、目标视角场景投影、几何渲染(https://huggingface.co/papers?q=geometry%20renderings)(用于引导新暴露主体区域的补全),以及超出滚动缓存的已检取生成状态。每个证据源均携带token级支持(https://huggingface.co/papers?q=token-level%20support)及其独立可用性调度。对应关系路由器(https://huggingface.co/papers?q=correspondence%20router)结合持久点标识与几何信息建立token对应关系,引导受支持的查询匹配源视频token。随后,证据级注意力CFG(https://huggingface.co/papers?q=Evidence-wise%20attention%20CFG)(EWA)利用同一去噪前向传递中的注意力响应,独立调控每个辅助通道的额外贡献。该共享接口支持基于同一冻结骨干网络的镜头控制重渲染(https://huggingface.co/papers?q=camera-controlled%20rerendering)、长期重访(https://huggingface.co/papers?q=long-horizon%20revisiting)及人体动作迁移。我们在多样视角变化下的镜头控制视频重渲染任务中评估“世界中的世界”,评估维度包括感知质量、时间一致性与镜头跟随精度。

查看arXiv页面(https://arxiv.org/abs/2609.11548)查看PDF(https://arxiv.org/pdf/2609.11548)项目页面(https://chenxi-song.github.io/worldinworld/)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2609.11548)

获取代理端论文:

hf papers read 2609\.11548

未安装最新CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

暂无关联模型

在模型README.md中引用 arxiv.org/abs/2609.11548 即可从本页关联。

引用此论文的数据集0

暂无关联数据集

在数据集README.md中引用 arxiv.org/abs/2609.11548 即可从本页关联。

引用此论文的Space0

暂无关联Space

在Space README.md中引用 arxiv.org/abs/2609.11548 即可从本页关联。

包含此论文的收藏集0

暂无包含此论文的收藏集

将本论文添加到收藏集(https://huggingface.co/new-collection)即可从本页关联。

相似文章

Wonder:更优的视频世界模型

Hugging Face Daily Papers

Wonder是一个通用的视频世界模型,能够从一张图像或条件视频中实现实时、可控制摄像头的世界探索。它通过密集坐标场引入摄像头条件化,采用稀疏注意力记忆机制,并改进蒸馏技术,从而支持以16 FPS生成分钟级的视频。

情境中的世界:基于上下文条件化的交互式视频世界建模

Papers with Code Trending

World-in-Context 提出了一种交互式视频世界建模框架,通过上下文条件化(In-Context Conditioning),将视角、动作和相机控制作为显式 token 统一纳入共享的自注意力空间,并引入 Interaction-Transport RoPE 以保持时间连续性。其 5B 模型在 WBench 上的导航性能与 22B 的 EchoWM 相当,同时实现了 93.8% 的视角切换成功率,而现有 5B 基线模型的成功率仅为 18.8%。

MiniWorld:从零训练视频世界模型的民主化

Hugging Face Daily Papers

MiniWorld 是一个可复现的框架,用于从零训练视频世界模型,采用带流匹配的块因果视频扩散变换器,能够实现高效的流式生成,并可在单台 8-GPU 服务器上数天内完成训练。

ReWorld:一个具有长期记忆的交互式世界模型

Hugging Face Daily Papers

ReWorld 提出了一个交互式世界模型,该模型使用混合注意力窗口和分布匹配的LoRA蒸馏,将短期控制与长期记忆解耦,实现了具有高动作保真度和回忆能力的实时视频生成。