Wan-Streamer v0.2:更高分辨率,相同延迟
摘要
Wan-Streamer v0.2 是一个保持延迟不变升级的端到端音视频交互模型,通过多GPU思考者-执行者架构将输出分辨率从192x336提高到640x368,同时维持约200毫秒的模型端延迟。
查看缓存全文
缓存时间: 2026/07/07 02:41
Paper page - Wan-Streamer v0.2: Higher Resolution, Same Latency
来源: https://huggingface.co/papers/2607.04443
发布于 7月5日
#1 今日论文 (https://huggingface.co/papers/date/2026-07-07)
作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
Wan-Streamer v0.2 通过优化的 thinker-performer 架构与多 GPU 并行处理,在保持低延迟的同时提升视觉分辨率,从而增强音视频交互体验。
我们推出了 Wan-Streamer v0.2,这是原生流式端到端音视频交互模型的延迟保持升级版本。v0.2 保留了 v0.1 的建模方案,但将交互输出流从 192x336 提升至 640x368,同时在 25 FPS 下保持了大约 200 ms 的模型端信号到信号延迟。更高分辨率的流支持基于场景的中景智能体,其姿态、目光、双手、附近物体及局部场景布局在实时对话中依然清晰可辨。为了在不增加用户感知延迟的情况下支持更大的视觉流,v0.2 保持 thinker 为单 GPU 低延迟路径,用于流式感知 (https://huggingface.co/papers?q=streaming%20perception)、构建生成缓存 (https://huggingface.co/papers?q=generation%20cache) 的短语言/状态 Transformer (https://huggingface.co/papers?q=Transformer) 传递以及最终解码 (https://huggingface.co/papers?q=final%20decoding)。performer 则变身为多 GPU Ulysses 风格上下文并行组 (https://huggingface.co/papers?q=Ulysses-style%20context-parallel%20group),用于计算昂贵的下一单元潜变量生成。每个 performer 等级将传入的 K/V 写入预分片本地缓存 (https://huggingface.co/papers?q=pre-sharded%20local%20cache)。长高分辨率潜视频序列被跨等级拆分以进行去噪 (https://huggingface.co/papers?q=denoising),并通过 Ulysses 通信 (https://huggingface.co/papers?q=Ulysses%20communication) 收集,而较短的音频潜序列 (https://huggingface.co/papers?q=audio%20latent%20sequence) 则无需序列分片即可生成。在这种划分下,thinker 的语言/状态计算 (https://huggingface.co/papers?q=language%2Fstate%20computation) 仅作为 K/V 条件 (https://huggingface.co/papers?q=K%2FV%20conditioning) 到达 performer,因此无需在 performer 组内传递独立的语言序列。这使额外的硬件集中于视觉生成 (https://huggingface.co/papers?q=visual%20generation),同时保持了紧凑的 thinker-performer 边界,使得包含 350 ms 双向网络预算后的总远程交互延迟约为 550 ms。
查看 arXiv 页面 (https://arxiv.org/abs/2607.04443) 查看 PDF (https://arxiv.org/pdf/2607.04443) 项目页面 (https://wan-streamer.com/) 添加至收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.04443)
在您的智能体中获取本文:
hf papers read 2607.04443
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本文的模型0
没有模型链接本文
请在模型 README.md 中引用 arxiv.org/abs/2607.04443 以从此页面链接。
引用本文的数据集0
没有数据集链接本文
请在数据集 README.md 中引用 arxiv.org/abs/2607.04443 以从此页面链接。
引用本文的 Spaces0
没有 Space 链接本文
请在 Space README.md 中引用 arxiv.org/abs/2607.04443 以从此页面链接。
包含本文的收藏集0
没有收藏集包含本文
请将本文添加至收藏集 (https://huggingface.co/new-collection) 以从此页面链接。
相似文章
Wan-Streamer v0.1:端到端实时交互基础模型
Wan-Streamer是一个统一的端到端多模态模型,用于实时音视频交互,采用因果注意力机制,并集成处理视觉、音频和文本模态,实现了亚秒级延迟。
Wallie V2
Wallie V2 是一款开源AI直播助手,旨在带来更鲜活的交互式直播体验。
@songhan_mit: SANA Streaming: 在单张5090上进行V2V
SANA Streaming 支持在单张NVIDIA RTX 5090 GPU上进行视频到视频生成。
minWM:用于实时交互式视频世界模型的全栈开源框架
minWM 是一个全栈开源框架,可将双向视频扩散模型转换为实时交互式视频世界模型,支持可控相机、低延迟推演和模块化架构。
LiveEdit:迈向基于扩散模型的实时流式视频编辑
LiveEdit 提出了一种因果、逐帧的流式视频编辑框架,通过三阶段蒸馏流程和面向增强现实的掩码缓存实现了实时性能(12.66 FPS),从而能够进行稳定的长时编辑。