LiveAnimate:实时稳定长时流式人体动画
摘要
LiveAnimate 提出了一个14B参数的视频扩散Transformer,通过PR-Sink注意力机制实现了实时、长时、姿态驱动的人体动画,具有稳定流式生成和恒定内存占用。在两个H100 GPU上实现了19.63 FPS的推理速度,在长达三分钟的流中保持质量。
查看缓存全文
缓存时间: 2026/08/14 07:27
论文页面 - LiveAnimate:稳定长时流式人体动画实时生成
来源:https://huggingface.co/papers/2608.11745
摘要
LiveAnimate 通过一个 140 亿参数的视频扩散 Transformer,结合专门训练、有界注意力缓存和序列并行,实现了实时、长时的姿态驱动人体动画。
姿态驱动人体动画从单张参考图像和一段驱动姿态流中合成为目标人物的视频。实时生成对于直播、远程呈现和虚拟化身等交互式应用至关重要,然而基于扩散的系统生成每个片段需要数分钟到数小时,无法实现响应式交互。我们提出了 LiveAnimate,据我们所知,这是首个将实时流式生成与十亿级稳定长时生成相结合的动画系统,其基于一个 140 亿参数的视频扩散 Transformer(DiT)(https://huggingface.co/papers?q=Diffusion%20Transformer%20(DiT))。两阶段训练流程首先通过参考锚定教师强制适应(Reference-Anchored Teacher-Forcing Adaptation)(https://huggingface.co/papers?q=Reference-Anchored%20Teacher-Forcing%20Adaptation) 将预训练的双向 DiT 适配为块因果自回归生成器,然后通过块级自强制蒸馏(Block-wise Self-Forcing Distillation)(https://huggingface.co/papers?q=Block-wise%20Self-Forcing%20Distillation) 将采样预算减少到三步。为了在扩展流中保持外观,我们引入了姿态检索汇点注意力(PR-Sink)(https://huggingface.co/papers?q=Pose-Retrieval%20Sink%20Attention%20(PR-Sink)),这是一种有界 KV 缓存机制,结合了静态汇点(Static Sink)(https://huggingface.co/papers?q=Static%20Sink)(永久锚定第一个生成块)、动态汇点(Dynamic Sink)(https://huggingface.co/papers?q=Dynamic%20Sink)(保存一个姿态检索的历史块)以及三槽滚动窗口(Rolling Window)(https://huggingface.co/papers?q=Rolling%20Window)。当姿态重复出现时,PR-Sink 无需保留整个序列即可恢复相关外观上下文,因此内存和每块延迟不随流时长而改变。结合 Ulysses 序列并行 (https://huggingface.co/papers?q=Ulysses%20sequence%20parallelism) 和算子融合 (https://huggingface.co/papers?q=operator%20fusion),这些设计使得在两张 NVIDIA H100 GPU 上实现 19.63 FPS 的流式推理。在三分钟基准测试中,LiveAnimate 从最初 30 秒到最后一分钟保持几乎恒定的感知质量和身份一致性,而现有系统在同一测试中要么严重退化,要么需要数小时的离线计算。这些结果确立了交互式全身动画在质量、延迟和时长方面的新基点。
查看 arXiv 页面 (https://arxiv.org/abs/2608.11745)查看 PDF (https://arxiv.org/pdf/2608.11745)项目页面 (https://liveanimate.github.io/)GitHub7 (https://github.com/liveanimate/LiveAnimate)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.11745)
在您的 agent 中获取此论文:
hf papers read 2608\.11745
没有最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用此论文的模型0
没有模型链接到此论文
在模型 README.md 中引用 arxiv.org/abs/2608.11745 以从此页面链接。
引用此论文的数据集0
没有数据集链接到此论文
在数据集 README.md 中引用 arxiv.org/abs/2608.11745 以从此页面链接。
引用此论文的 Space0
没有 Space 链接到此论文
在 Space README.md 中引用 arxiv.org/abs/2608.11745 以从此页面链接。
包含此论文的收藏集0
没有收藏集包含此论文
将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从此页面链接。
相似文章
LiveEdit:迈向基于扩散模型的实时流式视频编辑
LiveEdit 提出了一种因果、逐帧的流式视频编辑框架,通过三阶段蒸馏流程和面向增强现实的掩码缓存实现了实时性能(12.66 FPS),从而能够进行稳定的长时编辑。
PersonaLive!用于直播的生动肖像图像动画
PersonaLive 是一个基于扩散模型的框架,用于直播中的实时生动肖像动画,通过混合隐式信号和自回归流式生成实现了显著的速度提升。
实时长视频生成(GitHub仓库)
NVlabs 发布了 LongLive 2.0,这是一个采用 NVFP4 量化的实时长视频生成并行基础设施,同时支持训练和推理。它达到了 45.7 FPS,并被 ICLR 2026 接收。
EditaLive! 用于直播的统一角色视频编辑
EditaLive是一个用于实时以人为中心的直播视频编辑的新颖框架,它通过因果生成和蒸馏技术来适应图像动画模型,以实现高效的流式推理。
Nvidia 的新型长视频生成技术(12分钟阅读)
NVIDIA Research 推出了 SANA-Video 2.0,这是一种混合视频扩散变换器,能够在单个 GPU 上生成高质量 720p 视频,通过混合线性-softmax 注意力和块注意力残差,实现了相比 Wan 2.2-14B 高达 120 倍的速度提升。