论文页面 - ProAR：基于自回归视频模型的前瞻性推理学习

Source: https://huggingface.co/papers/2610.03664

摘要

自回归（AR）视频模型在因果生成方面表现出色，但它们对下一 chunk 预测的依赖使其局限于一种短视、被动响应式的范式。这一局限对于面向推理的生成任务尤为重要——在这类任务中，通过有效的中间状态实现目标结果，远比局部的视觉合理性更为关键。为解决这一挑战，我们提出 Learning Prospective Reasoning with Autoregressive Video Models（ProAR），一个将自回归视频生成转化为目标导向推理过程的新框架。ProAR 包含两个关键组件：（1）为了将生成锚定在长期目标上，我们通过一个非对称注意力掩码将目标帧预测整合进自回归循环中，使预测出的目标帧能够指导中间状态的生成，而不被中间状态所干扰。（2）为了引导短期的状态转换，我们引入未来表示自对齐机制，鼓励当前隐藏状态去预判即将到来的时间动态变化。借助 AR 训练中的 teacher forcing，我们在单次前向传播中即可提取出干净的未来表示，并使用一个轻量级的、仅在训练阶段使用的预测器将当前表示与之对齐。这两个机制共同将显式、稀疏的目标监督与隐式、密集的逐步引导无缝结合，在适中的计算成本下促进了连贯且目标导向的推理进展。实验表明，ProAR 中这些互补的组件在多种视觉推理基准上均能稳定提升性能。该框架在训练效率方面表现突出，仅使用标准 AR 基线 25% 的训练步数即实现了性能超越。这一范式在具身推理任务上也展现出良好的应用前景。

查看 arXiv 页面（https://arxiv.org/abs/2610.03664） 查看 PDF（https://arxiv.org/pdf/2610.03664） 项目主页（https://luka-group.github.io/ProAR/）GitHub2（https://github.com/luka-group/ProAR）添加到收藏（https://huggingface.co/login?next=%2Fpapers%2F2610.03664）

引用该论文的模型 0

没有模型关联此论文。

在模型的 README.md 中引用 arxiv.org/abs/2610.03664，即可从本页面链接到该论文。

引用该论文的数据集 0

没有数据集关联此论文。

在数据集的 README.md 中引用 arxiv.org/abs/2610.03664，即可从本页面链接到该论文。

引用该论文的 Spaces 0

没有 Space 关联此论文。

在 Space 的 README.md 中引用 arxiv.org/abs/2610.03664，即可从本页面链接到该论文。

包含该论文的合集 0

没有合集包含该论文。

将此论文添加到合集（https://huggingface.co/new-collection）即可从本页面链接到该论文。