HelloWorld:在视频世界模型中实现社交互动角色

Hugging Face Daily Papers 论文

摘要

HelloWorld是一个视频世界模型,支持社交互动角色,用户只需按一次按钮即可提示屏幕上的角色做出回应。它利用自蒸馏和无训练交叉注意力掩码来使互动自然化,并引入了用于评估的HelloWorldBench。

尽管视频世界模型近期取得了显著进展,但用户与这些世界中的角色之间的社交互动仍未得到支持。为填补这一空白,我们提出了HelloWorld,一个支持与世界内角色进行社交互动的视频世界模型。用户只需按一次按钮,即可提示屏幕上的角色面向镜头做出回应,例如转向观看者、挥手、点头或说一句简短的问候。为了使这些互动自然,我们提出了一种自蒸馏流程,在模型自身合成的数据上微调视频生成模型。每个合成片段同时包含社交互动和相机运动,使模型能够在不影响互动质量的情况下学习相机姿态条件控制。在推理时,我们进一步引入了一个无训练模块,用于确定互动发生的时间。在按下按钮时,它会调节DiT的交叉注意力掩码,使与互动相关的文本提示仅关注按下窗口内的帧,从而在时间上定位角色的回应。我们还构建了HelloWorldBench,一个包含400个样本的基准,包含三个社交互动指标和三个传统指标,用于评估。实验表明,HelloWorld在互动质量上超越了多种基线,同时保持了最先进的画面美学和相机姿态跟随。项目页面:https://github.com/AlayaLab/HelloWorld
查看原文
查看缓存全文

缓存时间: 2026/08/06 05:50

论文页面 - HelloWorld:在视频世界模型中实现社交互动角色

来源:https://huggingface.co/papers/2608.05070

摘要

尽管视频世界模型近期取得了显著进展,但用户与这些世界中的角色之间的社交互动仍不受支持。为了填补这一空白,我们提出了 HelloWorld,一种视频世界模型,能够实现与世界中角色的社交互动。只需按一下按钮,用户即可提示屏幕上的角色面向摄像头做出响应,例如转向观看者、挥手、点头或说一句简短的问候。为了使这些互动自然,我们提出了一种自蒸馏管道,在模型自身合成的数据上微调视频生成模型。每个合成的片段既包含社交互动,也包含相机运动,使模型能够学习相机姿态条件而不会降低互动质量。在推理时,我们进一步引入了一个免训练模块,用于确定互动发生的时间。在按钮按下时,它会调节 DiT 的交叉注意力掩码,使得与互动相关的文本提示仅关注按下窗口内的帧,从而在时间上定位角色的响应。我们还构建了 HelloWorldBench,一个包含 400 个样本的基准,附带三个社交互动指标以及三个常规指标,用于评估。实验表明,HelloWorld 在互动质量上超越了多种基线,同时保持了最先进的画面美学和相机姿态跟随。项目页面:https://github.com/AlayaLab/HelloWorld

查看 arXiv 页面 查看 PDF GitHub1 添加到收藏

在您的 agent 中获取此论文:

hf papers read 2608\.05070

没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

没有模型链接此论文

在模型的 README.md 中引用 arxiv.org/abs/2608.05070,即可从此页面链接到该模型。

引用此论文的数据集 0

没有数据集链接此论文

在数据集的 README.md 中引用 arxiv.org/abs/2608.05070,即可从此页面链接到该数据集。

引用此论文的 Space 0

没有 Space 链接此论文

在 Space 的 README.md 中引用 arxiv.org/abs/2608.05070,即可从此页面链接到该 Space。

包含此论文的收藏 0

没有收藏包含此论文

将此论文添加到收藏,即可从此页面链接到该收藏。

相似文章

情境中的世界:基于上下文条件化的交互式视频世界建模

Papers with Code Trending

World-in-Context 提出了一种交互式视频世界建模框架,通过上下文条件化(In-Context Conditioning),将视角、动作和相机控制作为显式 token 统一纳入共享的自注意力空间,并引入 Interaction-Transport RoPE 以保持时间连续性。其 5B 模型在 WBench 上的导航性能与 22B 的 EchoWM 相当,同时实现了 93.8% 的视角切换成功率,而现有 5B 基线模型的成功率仅为 18.8%。

HelixWorld:实时交互式视听世界模型

Hugging Face Daily Papers

HelixWorld 是一个实时交互式视听世界模型,视觉场景与基于相机定位的空间立体声在用户交互下协同演化,通过教师-学生蒸馏管线在单块 GPU 上以 24 FPS 运行。该论文还提出了 HelixBench,用于评估合成声场的空间声学一致性。

Wonder:更优的视频世界模型

Hugging Face Daily Papers

Wonder是一个通用的视频世界模型,能够从一张图像或条件视频中实现实时、可控制摄像头的世界探索。它通过密集坐标场引入摄像头条件化,采用稀疏注意力记忆机制,并改进蒸馏技术,从而支持以16 FPS生成分钟级的视频。

EchoWM:开放且可进入的全模态世界模型

Hugging Face Daily Papers

EchoWM 介绍了一种开放的全模态世界模型,能够生成同步的视频、声音、音乐和语音,并支持连续的6自由度导航,用于可进入的生成媒体。

World in World: 用世界模型探索世界

Hugging Face Daily Papers

本文介绍了 World in World,这是一个无需训练的接口,可以通过使用对应引导查询和基于证据的注意力指导,在冻结的自回归视频世界模型中实现灵活的相机和时间控制。