LiveAnimate:实时稳定长时流式人体动画

Hugging Face Daily Papers 论文

摘要

LiveAnimate 提出了一个14B参数的视频扩散Transformer,通过PR-Sink注意力机制实现了实时、长时、姿态驱动的人体动画,具有稳定流式生成和恒定内存占用。在两个H100 GPU上实现了19.63 FPS的推理速度,在长达三分钟的流中保持质量。

姿态驱动的人体动画是从单张参考图像和驱动姿态流合成目标人物视频的任务。实时生成对于直播、远程在场和虚拟化身等交互式应用至关重要,然而基于扩散的系统每个片段需要几分钟到几小时,无法实现响应式交互。我们提出了 LiveAnimate,据我们所知,这是第一个在十亿参数规模上将实时流式生成与稳定长时生成相结合的动画系统,其构建于一个14B参数的视频扩散Transformer(DiT)之上。两阶段训练流程首先通过参考锚定教师强制适应(Reference-Anchored Teacher-Forcing Adaptation)将预训练的双向DiT适配为块因果自回归生成器,然后通过块级自强制蒸馏(Block-wise Self-Forcing Distillation)将采样预算减少到三步。为了在长时流中保持外观,我们引入了姿态检索汇聚注意力(PR-Sink),这是一种有界KV缓存机制,结合了永久锚定第一个生成块的静态汇聚(Static Sink)、保存姿态检索历史块的动态汇聚(Dynamic Sink)以及三槽滚动窗口。当姿态重复出现时,PR-Sink会恢复相关的外观上下文,而无需保留整个序列,因此无论流持续多长时间,内存和每块延迟都保持恒定。结合Ulysses序列并行和算子融合,这些设计使得在两个NVIDIA H100 GPU上实现19.63\,FPS的流式推理。在三分钟基准测试中,LiveAnimate从最初30秒到最后一分钟几乎保持恒定的感知质量和身份一致性,而现有系统在相同长度的生成任务上要么性能大幅下降,要么需要数小时的离线计算。这些结果为交互式全身动画在质量、延迟和时长方面树立了新的操作点。
查看原文
查看缓存全文

缓存时间: 2026/08/14 07:27

论文页面 - LiveAnimate:稳定长时流式人体动画实时生成

来源:https://huggingface.co/papers/2608.11745

摘要

LiveAnimate 通过一个 140 亿参数的视频扩散 Transformer,结合专门训练、有界注意力缓存和序列并行,实现了实时、长时的姿态驱动人体动画。

姿态驱动人体动画从单张参考图像和一段驱动姿态流中合成为目标人物的视频。实时生成对于直播、远程呈现和虚拟化身等交互式应用至关重要,然而基于扩散的系统生成每个片段需要数分钟到数小时,无法实现响应式交互。我们提出了 LiveAnimate,据我们所知,这是首个将实时流式生成与十亿级稳定长时生成相结合的动画系统,其基于一个 140 亿参数的视频扩散 Transformer(DiT)(https://huggingface.co/papers?q=Diffusion%20Transformer%20(DiT))。两阶段训练流程首先通过参考锚定教师强制适应(Reference-Anchored Teacher-Forcing Adaptation)(https://huggingface.co/papers?q=Reference-Anchored%20Teacher-Forcing%20Adaptation) 将预训练的双向 DiT 适配为块因果自回归生成器,然后通过块级自强制蒸馏(Block-wise Self-Forcing Distillation)(https://huggingface.co/papers?q=Block-wise%20Self-Forcing%20Distillation) 将采样预算减少到三步。为了在扩展流中保持外观,我们引入了姿态检索汇点注意力(PR-Sink)(https://huggingface.co/papers?q=Pose-Retrieval%20Sink%20Attention%20(PR-Sink)),这是一种有界 KV 缓存机制,结合了静态汇点(Static Sink)(https://huggingface.co/papers?q=Static%20Sink)(永久锚定第一个生成块)、动态汇点(Dynamic Sink)(https://huggingface.co/papers?q=Dynamic%20Sink)(保存一个姿态检索的历史块)以及三槽滚动窗口(Rolling Window)(https://huggingface.co/papers?q=Rolling%20Window)。当姿态重复出现时,PR-Sink 无需保留整个序列即可恢复相关外观上下文,因此内存和每块延迟不随流时长而改变。结合 Ulysses 序列并行 (https://huggingface.co/papers?q=Ulysses%20sequence%20parallelism) 和算子融合 (https://huggingface.co/papers?q=operator%20fusion),这些设计使得在两张 NVIDIA H100 GPU 上实现 19.63 FPS 的流式推理。在三分钟基准测试中,LiveAnimate 从最初 30 秒到最后一分钟保持几乎恒定的感知质量和身份一致性,而现有系统在同一测试中要么严重退化,要么需要数小时的离线计算。这些结果确立了交互式全身动画在质量、延迟和时长方面的新基点。

查看 arXiv 页面 (https://arxiv.org/abs/2608.11745)查看 PDF (https://arxiv.org/pdf/2608.11745)项目页面 (https://liveanimate.github.io/)GitHub7 (https://github.com/liveanimate/LiveAnimate)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.11745)

在您的 agent 中获取此论文:

hf papers read 2608\.11745

没有最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型0

没有模型链接到此论文

在模型 README.md 中引用 arxiv.org/abs/2608.11745 以从此页面链接。

引用此论文的数据集0

没有数据集链接到此论文

在数据集 README.md 中引用 arxiv.org/abs/2608.11745 以从此页面链接。

引用此论文的 Space0

没有 Space 链接到此论文

在 Space README.md 中引用 arxiv.org/abs/2608.11745 以从此页面链接。

包含此论文的收藏集0

没有收藏集包含此论文

将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从此页面链接。

相似文章

实时长视频生成(GitHub仓库)

TLDR AI

NVlabs 发布了 LongLive 2.0,这是一个采用 NVFP4 量化的实时长视频生成并行基础设施,同时支持训练和推理。它达到了 45.7 FPS,并被 ICLR 2026 接收。

EditaLive! 用于直播的统一角色视频编辑

Hugging Face Daily Papers

EditaLive是一个用于实时以人为中心的直播视频编辑的新颖框架,它通过因果生成和蒸馏技术来适应图像动画模型,以实现高效的流式推理。

Nvidia 的新型长视频生成技术(12分钟阅读)

TLDR AI

NVIDIA Research 推出了 SANA-Video 2.0,这是一种混合视频扩散变换器,能够在单个 GPU 上生成高质量 720p 视频,通过混合线性-softmax 注意力和块注意力残差,实现了相比 Wan 2.2-14B 高达 120 倍的速度提升。