论文页面 - FVAttn：面向视频生成的运行时负载均衡自适应稀疏注意力

来源：https://huggingface.co/papers/2607.16190

摘要

视频扩散变换器处理长时空序列，使得自注意力成为高分辨率视频生成的主要瓶颈。无训练稀疏注意力降低了这一成本，但自适应Top-proving在多GPU序列并行下产生了不均匀的每头工作负载。由此产生的工作负载异构性将稀疏注意力转变为一个排名级别的掉队问题。我们提出了一种无训练稀疏注意力系统，它改善了自适应稀疏注意力在多GPU序列并行下的分布式执行效率。该系统使用Top-proving、Top-k安全底限和视频感知块组织作为稀疏路由前端，然后在运行时修复物化的掩码。运行时负载均衡通过点对点通信迁移少量重型头来缩短当前关键路径。松弛感知稀疏增强利用额外的有价值块填补剩余的非关键排名松弛，同时通过重叠隐藏调度和迁移开销。在step-distilled Wan2.2I2V上，平均负载不平衡从1.34降至1.08，并且相比FlashAttention实现了4.41倍的注意力加速，同时实现了2.02–2.11倍的DiT推理加速，视频质量具有竞争力。

查看arXiv页面 (https://arxiv.org/abs/2607.16190) 查看PDF (https://arxiv.org/pdf/2607.16190) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.16190)

在你的agent中获取本论文：

hf papers read 2607.16190

没有最新的CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型0

没有模型链接本论文

在模型README.md中引用arxiv.org/abs/2607.16190以从此页面链接。

引用本论文的数据集0

没有数据集链接本论文

在数据集README.md中引用arxiv.org/abs/2607.16190以从此页面链接。

引用本论文的Spaces0

没有Space链接本论文

在Space README.md中引用arxiv.org/abs/2607.16190以从此页面链接。

包含本论文的收藏0

没有收藏包含本论文

将本论文添加到收藏 (https://huggingface.co/new-collection) 以从此页面链接。