标签
介绍了 Member vs Generated Inference (MGI) 任务，用于区分生成模型中的训练成员与生成输出，并提出了 Data Circuit Breaker (DCB)，一种结合自编码器和潜在生成器信号的三阶段方法，在自回归和扩散模型中均优于现有方法。
在单个H100（FP8）上对本地开源权重LLM进行的基准测试比较显示，DiffusionGemma速度提升4倍，但错误数量比Gemma4 26B A4B多6倍，突显了扩散模型与自回归模型在速度和准确性之间的权衡。
本文介绍了OPDLM，一种通过在线策略蒸馏将自回归语言模型转换为扩散语言模型的方法，所需训练令牌数量减少15倍到7000倍，同时保留原始模型的知识。
研究人员提出了一种用于图生成的轻量级自回归框架，该框架使用结构引导的拓扑排序实现了接近对数线性的复杂度，解决了现有扩散和自回归方法在可扩展性和新颖性方面的局限性。该方法同时支持LSTM和Mamba风格的主干网络，在分子和非分子基准测试中展示了改进的新颖性，同时保持了有效性和独特性。
本文分析了大型语言模型安全对齐为何脆弱，将其归因于“自回归一致性”——即下一个词元预测倾向于扩展当前响应轨迹——这导致对齐更新集中在早期词元上。作者提出了一种利用这一特性的“随机插入攻击”，并设计了一个对抗性安全对齐框架来应对。
本文提出了一种历史引导的自回归流匹配方法，用于从沸腾动力学部分观测中重构完整的时空场（速度和温度），解决了非马尔可夫后验下的不适定逆问题。
LongLive-RAG将长视频生成形式化为检索增强生成问题，利用先前生成潜变量的动态记忆来减少误差积累和身份漂移，在多种自回归骨干网络上提升了生成质量。
介绍TUBE，一种用于离散扩散语言模型的对数似然变分上界，实现更好的评估，并揭示掩码扩散模型仍不如自回归模型。
本文介绍了归因合同（Attribution Contract），这是生成式语言模型中特征归因声明的一种规范，解决了特征定义不清以及归因方法评估方式模糊的问题。论文以自回归模型和扩散模型为例，展示了归因何时具有信息量，何时可能产生误导。
KV cache 在自回归生成过程中存储先前计算的键向量和值向量，使模型能够避免在每一步重新计算整个序列，从而显著加速推理，但代价是内存使用增加。
Q-ARVD是一种新颖的量化框架，通过解决帧级量化敏感度失衡和权重异常值模式，降低自回归视频扩散模型的推理成本。
dLLM是一个开源库，可将任何自回归大语言模型转换为扩散大语言模型，实现并行解码和更快的文本生成。
dLLM是一个开源Python库，能以极少的计算资源将任意自回归语言模型转换为扩散语言模型，统一训练和评估。
KVPO提出了一种基于ODE的原生在线GRPO框架，通过因果语义KV缓存探索和速度场替代策略，将流式自回归视频生成器与人类偏好对齐，在视觉质量和对齐度上实现了持续改进。
本文证明了不可能性定理，表明由于因果掩码（causal masking）约束，首要效应（primacy effects）、锚定效应（anchoring）和顺序依赖性（order-dependence）是自回归语言模型中架构上必然存在的偏差。作者跨越12种前沿大语言模型验证了这些理论界限，并通过涉及工作记忆负荷的预注册人类实验证实了相关预测。
CausalCine 是一个新的学术框架，用于实时交互式多镜头视频生成，它利用因果建模和动态内存路由技术，提高了自回归模型在镜头间的一致性。
STARFlow2 是一项新的研究论文，介绍了一种将语言模型与自回归归一化流相结合的架构，用于统一的多模态生成。它通过使用共享的因果掩码机制处理交错的文本-图像序列，解决了现有系统中的结构不匹配问题。
本文提出了“并行交错推理（Side-by-Side Interleaved Reasoning）”方法，通过控制自回归模型中的信息揭示时机，以提高准确性和效率。实验表明，在使用 Qwen3 模型的基准测试中，通过将私密推理与部分信息披露相结合，模型性能得到了提升。
SDVG 将投机解码引入自回归视频扩散，通过图像质量路由器在 MovieGenVideoBench 上实现最高 2.09× 加速，同时保留 95.7% 质量。
# 论文页面 - (1D) 有序词元实现高效测试时搜索 来源：[https://huggingface.co/papers/2604.15453](https://huggingface.co/papers/2604.15453) ## 摘要 具有“粗到细”词元结构的自回归模型在测试时扩展上表现更佳，并在与图文验证器结合后，实现无需训练的文本到图像生成。 [词元化](https://huggingface.co/papers?q=Tokenization) 是自回归（AR）生成模型的关键组件，将原始