Wan-Streamer v0.2:更高分辨率,相同延迟
摘要
Wan-Streamer v0.2 是一个保持延迟不变升级的端到端音视频交互模型,通过多GPU思考者-执行者架构将输出分辨率从192x336提高到640x368,同时维持约200毫秒的模型端延迟。
查看缓存全文
缓存时间: 2026/07/07 02:41
Paper page - Wan-Streamer v0.2: Higher Resolution, Same Latency
来源: https://huggingface.co/papers/2607.04443
发布于 7月5日
#1 今日论文 (https://huggingface.co/papers/date/2026-07-07)
作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
Wan-Streamer v0.2 通过优化的 thinker-performer 架构与多 GPU 并行处理,在保持低延迟的同时提升视觉分辨率,从而增强音视频交互体验。
我们推出了 Wan-Streamer v0.2,这是原生流式端到端音视频交互模型的延迟保持升级版本。v0.2 保留了 v0.1 的建模方案,但将交互输出流从 192x336 提升至 640x368,同时在 25 FPS 下保持了大约 200 ms 的模型端信号到信号延迟。更高分辨率的流支持基于场景的中景智能体,其姿态、目光、双手、附近物体及局部场景布局在实时对话中依然清晰可辨。为了在不增加用户感知延迟的情况下支持更大的视觉流,v0.2 保持 thinker 为单 GPU 低延迟路径,用于流式感知 (https://huggingface.co/papers?q=streaming%20perception)、构建生成缓存 (https://huggingface.co/papers?q=generation%20cache) 的短语言/状态 Transformer (https://huggingface.co/papers?q=Transformer) 传递以及最终解码 (https://huggingface.co/papers?q=final%20decoding)。performer 则变身为多 GPU Ulysses 风格上下文并行组 (https://huggingface.co/papers?q=Ulysses-style%20context-parallel%20group),用于计算昂贵的下一单元潜变量生成。每个 performer 等级将传入的 K/V 写入预分片本地缓存 (https://huggingface.co/papers?q=pre-sharded%20local%20cache)。长高分辨率潜视频序列被跨等级拆分以进行去噪 (https://huggingface.co/papers?q=denoising),并通过 Ulysses 通信 (https://huggingface.co/papers?q=Ulysses%20communication) 收集,而较短的音频潜序列 (https://huggingface.co/papers?q=audio%20latent%20sequence) 则无需序列分片即可生成。在这种划分下,thinker 的语言/状态计算 (https://huggingface.co/papers?q=language%2Fstate%20computation) 仅作为 K/V 条件 (https://huggingface.co/papers?q=K%2FV%20conditioning) 到达 performer,因此无需在 performer 组内传递独立的语言序列。这使额外的硬件集中于视觉生成 (https://huggingface.co/papers?q=visual%20generation),同时保持了紧凑的 thinker-performer 边界,使得包含 350 ms 双向网络预算后的总远程交互延迟约为 550 ms。
查看 arXiv 页面 (https://arxiv.org/abs/2607.04443) 查看 PDF (https://arxiv.org/pdf/2607.04443) 项目页面 (https://wan-streamer.com/) 添加至收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.04443)
在您的智能体中获取本文:
hf papers read 2607.04443
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用本文的模型0
没有模型链接本文
请在模型 README.md 中引用 arxiv.org/abs/2607.04443 以从此页面链接。
引用本文的数据集0
没有数据集链接本文
请在数据集 README.md 中引用 arxiv.org/abs/2607.04443 以从此页面链接。
引用本文的 Spaces0
没有 Space 链接本文
请在 Space README.md 中引用 arxiv.org/abs/2607.04443 以从此页面链接。
包含本文的收藏集0
没有收藏集包含本文
请将本文添加至收藏集 (https://huggingface.co/new-collection) 以从此页面链接。
相似文章
Wan-Streamer v0.1:端到端实时交互基础模型
Wan-Streamer是一个统一的端到端多模态模型,用于实时音视频交互,采用因果注意力机制,并集成处理视觉、音频和文本模态,实现了亚秒级延迟。
视频 = 世界 + 事件流
Wan-Streamer v0.3 将视频重新定义为世界加事件流,引入了一个用于实时音视频交互的通用预训练任务。它实现了低延迟的全双工交互,模型端响应延迟为 200 毫秒。
Wallie V2
Wallie V2 是一款开源AI直播助手,旨在带来更鲜活的交互式直播体验。
LiveAnimate:实时稳定长时流式人体动画
LiveAnimate 提出了一个14B参数的视频扩散Transformer,通过PR-Sink注意力机制实现了实时、长时、姿态驱动的人体动画,具有稳定流式生成和恒定内存占用。在两个H100 GPU上实现了19.63 FPS的推理速度,在长达三分钟的流中保持质量。
Nvidia 的新型长视频生成技术(12分钟阅读)
NVIDIA Research 推出了 SANA-Video 2.0,这是一种混合视频扩散变换器,能够在单个 GPU 上生成高质量 720p 视频,通过混合线性-softmax 注意力和块注意力残差,实现了相比 Wan 2.2-14B 高达 120 倍的速度提升。