Wan-Streamer v0.2:更高分辨率,相同延迟

Hugging Face Daily Papers 论文

摘要

Wan-Streamer v0.2 是一个保持延迟不变升级的端到端音视频交互模型,通过多GPU思考者-执行者架构将输出分辨率从192x336提高到640x368,同时维持约200毫秒的模型端延迟。

我们推出了Wan-Streamer v0.2,这是原生流式端到端音视频交互模型的一个保持延迟不变的升级版本。v0.2保留了v0.1的建模方案,但将交互输出流从192x336提升到640x368,同时在25 FPS下保持约200毫秒的模型端信号到信号延迟。更高分辨率的流支持场景锚定的中景智能体,在实时对话中,其姿态、视线、双手、附近物体以及局部场景布局依然清晰可辨。为在不增加用户可见延迟的情况下支持更大的视觉流,v0.2保留了思考者作为单GPU低延迟路径,负责流式感知、构建生成缓存的短语言/状态Transformer通道以及最终解码。执行者则变为多GPU的Ulysses式上下文并行组,用于昂贵的下一单元潜变量生成。每个执行者秩将输入的K/V写入预分片的本地缓存。长的高分辨率潜视频序列在各秩之间分割以进行去噪,并通过Ulysses通信汇聚,而更短的音频潜序列则无需序列分片即可生成。在这种分割中,思考者的语言/状态计算仅以K/V条件的形式到达执行者,因此无需在执行者组内传递单独的语言序列。这样就将额外的硬件资源集中用于视觉生成,同时保持了紧凑的思考者-执行者边界,在包含350毫秒双向网络预算的情况下,总远程交互延迟约为550毫秒。
查看原文
查看缓存全文

缓存时间: 2026/07/07 02:41

Paper page - Wan-Streamer v0.2: Higher Resolution, Same Latency

来源: https://huggingface.co/papers/2607.04443
发布于 7月5日

#1 今日论文 (https://huggingface.co/papers/date/2026-07-07)
作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

Wan-Streamer v0.2 通过优化的 thinker-performer 架构与多 GPU 并行处理,在保持低延迟的同时提升视觉分辨率,从而增强音视频交互体验。

我们推出了 Wan-Streamer v0.2,这是原生流式端到端音视频交互模型的延迟保持升级版本。v0.2 保留了 v0.1 的建模方案,但将交互输出流从 192x336 提升至 640x368,同时在 25 FPS 下保持了大约 200 ms 的模型端信号到信号延迟。更高分辨率的流支持基于场景的中景智能体,其姿态、目光、双手、附近物体及局部场景布局在实时对话中依然清晰可辨。为了在不增加用户感知延迟的情况下支持更大的视觉流,v0.2 保持 thinker 为单 GPU 低延迟路径,用于流式感知 (https://huggingface.co/papers?q=streaming%20perception)、构建生成缓存 (https://huggingface.co/papers?q=generation%20cache) 的短语言/状态 Transformer (https://huggingface.co/papers?q=Transformer) 传递以及最终解码 (https://huggingface.co/papers?q=final%20decoding)。performer 则变身为多 GPU Ulysses 风格上下文并行组 (https://huggingface.co/papers?q=Ulysses-style%20context-parallel%20group),用于计算昂贵的下一单元潜变量生成。每个 performer 等级将传入的 K/V 写入预分片本地缓存 (https://huggingface.co/papers?q=pre-sharded%20local%20cache)。长高分辨率潜视频序列被跨等级拆分以进行去噪 (https://huggingface.co/papers?q=denoising),并通过 Ulysses 通信 (https://huggingface.co/papers?q=Ulysses%20communication) 收集,而较短的音频潜序列 (https://huggingface.co/papers?q=audio%20latent%20sequence) 则无需序列分片即可生成。在这种划分下,thinker 的语言/状态计算 (https://huggingface.co/papers?q=language%2Fstate%20computation) 仅作为 K/V 条件 (https://huggingface.co/papers?q=K%2FV%20conditioning) 到达 performer,因此无需在 performer 组内传递独立的语言序列。这使额外的硬件集中于视觉生成 (https://huggingface.co/papers?q=visual%20generation),同时保持了紧凑的 thinker-performer 边界,使得包含 350 ms 双向网络预算后的总远程交互延迟约为 550 ms。

查看 arXiv 页面 (https://arxiv.org/abs/2607.04443) 查看 PDF (https://arxiv.org/pdf/2607.04443) 项目页面 (https://wan-streamer.com/) 添加至收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.04443)

在您的智能体中获取本文:

hf papers read 2607.04443

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用本文的模型0

没有模型链接本文

请在模型 README.md 中引用 arxiv.org/abs/2607.04443 以从此页面链接。

引用本文的数据集0

没有数据集链接本文

请在数据集 README.md 中引用 arxiv.org/abs/2607.04443 以从此页面链接。

引用本文的 Spaces0

没有 Space 链接本文

请在 Space README.md 中引用 arxiv.org/abs/2607.04443 以从此页面链接。

包含本文的收藏集0

没有收藏集包含本文

请将本文添加至收藏集 (https://huggingface.co/new-collection) 以从此页面链接。

相似文章

Wan-Streamer v0.1:端到端实时交互基础模型

Hugging Face Daily Papers

Wan-Streamer是一个统一的端到端多模态模型,用于实时音视频交互,采用因果注意力机制,并集成处理视觉、音频和文本模态,实现了亚秒级延迟。

Wallie V2

Product Hunt

Wallie V2 是一款开源AI直播助手,旨在带来更鲜活的交互式直播体验。