标签
论文表明，递归语言模型通过隔离子任务、避免标准思维链所使用的捷径，并指出经典学习理论在真正推理方面的局限性，从而提高域外泛化能力。
本文批判了评估递归语言模型的常规深度截断方法，并引入了深度控制协议（DCP）以解开并隔离影响深度利用的因素，从而提升评估精度。
这篇 ICML 论文介绍了递归模型，这些模型递归地调用自身在隔离上下文中解决子任务，证明它们可以在长时推理中超越上下文受限的自回归模型。在 SAT 求解和围棋博弈树搜索上的实验表明，使用较小的活动上下文能提高准确性。
提出了交互局部性（interaction locality）这一任务几何感知框架，用于衡量空间推理模型中的信息流是停留在局部单元内还是跨越到全局结构，并将其应用于HRM、TRM和MTU3D模型，在网格基准测试和具身3D定位任务上进行评估。