论文页面 - HLA-WM：面向长时程视频世界模型的混合线性注意力

来源：https://huggingface.co/papers/2610.05739

摘要

长时程视频世界模型需要持久记忆，以便在长时间的自回归展开中保持场景一致性。Softmax 注意力通过不断增长的 KV 缓存保留完整的生成历史，而循环线性注意力则将历史压缩为固定大小的状态，内存开销大幅降低。然而，我们发现 Gated DeltaNet（GDN）存在严重的长程遗忘问题：来自遥远但相关场景的信息会随着后续的状态更新而逐渐衰减。为解决这一局限，我们提出 HLA-WM，一个免训练的混合线性注意力框架，将粗粒度的几何引导检索与细粒度的循环线性状态计算相结合。HLA-WM 利用 GDN 的仿射结构来缓存紧凑的分段转移摘要，借助相机几何检索与当前场景相关的历史片段，并将其重新组合为针对具体 query 的循环状态。在 60 秒的 SANA-WM-Bench 上，HLA-WM 无需额外训练即可提升底层自回归生成器在重访一致性和相机控制方面的全部六项聚合指标，包括 0.74 dB 的 PSNR 提升和旋转误差降低 28.5%。这些提升在下游精修之后仍然有效，并且可泛化到 MBench-A：在超过 547 个样本上，HLA-WM 在全部四个子集和所有评测推理模式中，一致地改进了全部三项重访一致性指标。在 60 秒上下文长度下，相对于完整的 KV 缓存，HLA-WM 将历史状态内存降低 12 倍，而推理吞吐量最多仅下降 1.6%。这些结果表明，选择性可寻址的循环记忆能够提升长程场景召回能力，同时保留 GDN 的效率优势。项目主页：https://caesarhhh.github.io/hla-wm/

查看 arXiv 页面（https://arxiv.org/abs/2610.05739） 查看 PDF（https://arxiv.org/pdf/2610.05739） 项目主页（https://caesarhhh.github.io/hla-wm/） GitHub2（https://github.com/Caesarhhh/HLA_） 添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2610.05739）

在你的 agent 中获取这篇论文：

hf papers read 2610.05739

还没有最新的 CLI？curl -LsSf https://hf.co/cli/install.sh | bash

引用本论文的模型 0

没有模型链接到本论文

在模型 README.md 中引用 arxiv.org/abs/2610.05739，即可从本页面链接到它。

引用本论文的数据集 0

没有数据集链接到本论文

在数据集 README.md 中引用 arxiv.org/abs/2610.05739，即可从本页面链接到它。

引用本论文的 Space 0

没有 Space 链接到本论文

在 Space README.md 中引用 arxiv.org/abs/2610.05739，即可从本页面链接到它。

包含本论文的合集 0

没有合集包含本论文

将本论文添加到合集（https://huggingface.co/new-collection）即可从本页面链接到它。