论文页面 - 划分支持集，重构残差：免训练的视频生成与世界模型稀疏注意力机制

来源：https://huggingface.co/papers/2608.18484
发布于8月19日

·

由https://huggingface.co/PardisTaghavi提交

pardis (https://huggingface.co/PardisTaghavi)于8月24日发布

摘要

SparsePR通过响应耦合划分与探针拟合残差重构加速视频Transformer，在低执行对密度下降低注意力误差并实现显著加速。

免训练的块稀疏注意力 (https://huggingface.co/papers?q=block-sparse%20attention) 能够加速视频Transformer (https://huggingface.co/papers?q=video%20transformers)，但仅按行划分注意力集中区域本身无法指定可执行的稀疏算子。共享划分路径的查询可能具有重叠度较低的支持集，而仅保留注意力质量并不能决定跳过交互导致的softmax后误差。我们发现划分几何结构既影响合并支持集，也影响从稀疏输出预测剩余残差的可行性。我们提出SparsePR (https://huggingface.co/papers?q=SparsePR)，该方法结合了响应耦合划分 (https://huggingface.co/papers?q=Response-Coupled%20Partitioning) 与探针拟合残差重构 (https://huggingface.co/papers?q=Probe-Fitted%20Residual%20Reconstruction)。采样查询的键响应形成成对的K/V分组，其质心为共享路由生成查询响应坐标。随后利用少量精确查询行，在探针残差观测到的输出子空间内，从稀疏输出校准特定调用的仿射修正。在四种异构视频生成与世界模型中，SparsePR (https://huggingface.co/papers?q=SparsePR) 持续降低注意力重构误差 (https://huggingface.co/papers?q=attention-reconstruction%20error)。消融实验表明探针拟合贡献了大部分误差降低，而响应耦合划分 (https://huggingface.co/papers?q=response-coupled%20partitioning) 则降低了硬丢弃误差并在有限探针预算下改善重构效果。SparsePR (https://huggingface.co/papers?q=SparsePR) 在实现22.0-26.0%的执行对密度 (https://huggingface.co/papers?q=executed-pair%20density) 时保持了生成质量，并实现1.48x-2.61x的端到端加速。项目页面：https://pardistaghavi.github.io/SparsePR-website/

查看arXiv页面 (https://arxiv.org/abs/2608.18484) 查看PDF (https://arxiv.org/pdf/2608.18484) 项目页面 (https://pardistaghavi.github.io/SparsePR-website/) GitHub14 (https://github.com/PardisTaghavi/SparsePR) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.18484)

在你的智能体中获取此论文：

hf papers read 2608.18484

没有最新CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型：0

无模型关联此论文

在模型README.md中引用arxiv.org/abs/2608.18484以从此页面关联。

引用此论文的数据集：0

无数据集关联此论文

在数据集README.md中引用arxiv.org/abs/2608.18484以从此页面关联。

引用此论文的Space：0

无Space关联此论文

在Space README.md中引用arxiv.org/abs/2608.18484以从此页面关联。

包含此论文的收藏：0

无收藏包含此论文

将此论文添加到收藏 (https://huggingface.co/new-collection) 以从此页面关联。