学习中结构化优化网络的稳健解释性分析（REASON）
摘要
该论文提出 REASON 双循环推理框架，通过快速（System 1 式）和中速（System 2 式）循环分层解决残差误差，在分布偏移和未见扰动下以约一半计算量显著提升模型鲁棒性，并优于分级分类器和学习延迟方法。
查看缓存全文
缓存时间: 2026/10/19 23:31
论文页面 - 用于学习中结构化优化网络的稳健解释性分析（REASON）
来源：https://huggingface.co/papers/2610.19378
摘要
一个双循环推理框架通过快速循环和证据搜寻循环来解决残余误差，以更低的计算量提升分布偏移下的鲁棒性。
我们寻求在复合学习目标下对残余误差（https://huggingface.co/papers?q=residual%20error）的分层解析，将其作为一种识别和利用额外信息的原则性机制，尤其是在分布偏移（https://huggingface.co/papers?q=distribution%20shift）和扰动条件下。受 System 1/System 2（https://huggingface.co/papers?q=System%201%2FSystem%202）范式的启发，我们将这一原则表述为服务于共同推理目标的双循环机制（https://huggingface.co/papers?q=two-loop%20mechanism）。一个快速的、类似 System 1 的循环解决现有证据可处理的残余误差；剩余的认知性残余（https://huggingface.co/papers?q=epistemic%20residual）则触发一个中速的、类似 System 2 的循环，主动获取额外证据，并通过残余误差的减少来衡量其信息价值。在嵌套解空间（https://huggingface.co/papers?q=nested%20solution%20spaces）下，中速循环的最优解可证明不劣于快速循环的最优解。实验表明，所得的双循环模型在约一半的中速循环计算量下持续优于快速循环，包括在未见过的损坏条件下；当提供更清晰的观测时，其在同等计算成本下优于分阶段分类器（https://huggingface.co/papers?q=staged%20classifiers）和学习延迟（https://huggingface.co/papers?q=learning-to-defer）方法。
查看 arXiv 页面 (https://arxiv.org/abs/2610.19378) 查看 PDF (https://arxiv.org/pdf/2610.19378) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2610.19378)
引用此论文的模型 0
没有模型关联此论文
在模型 README.md 中引用 arxiv.org/abs/2610.19378 以从此页面链接它。
引用此论文的数据集 0
没有数据集关联此论文
在数据集 README.md 中引用 arxiv.org/abs/2610.19378 以从此页面链接它。
引用此论文的 Spaces 0
没有 Space 关联此论文
在 Space README.md 中引用 arxiv.org/abs/2610.19378 以从此页面链接它。
包含此论文的收藏夹 0
没有收藏夹包含此论文
将此论文添加到收藏夹 (https://huggingface.co/new-collection) 以从此页面链接它。
相似文章
REDaCT：大型推理模型中的无坍塌遗忘学习
REDaCT提出一种面向大型推理模型的推理时无遗忘框架，通过二元泄漏检测器与纠正性嵌入优化，在彻底移除遗忘集信息的同时完全避免推理链崩溃，实现近乎完美的答案与CoT遗忘并显著保留推理能力。
Rationale-Guided Policy Optimization：借助自适应理由脚手架学习推理
论文提出了 Rationale-Guided Policy Optimization（RGPO）框架，该框架在 on-policy 强化学习过程中将 ground-truth rationales 自适应地用作临时脚手架，以缓解奖励稀疏问题；在纯语言和视觉-语言推理场景中，该方法均取得了优于 RLVR 基线的稳定性能提升。
RL-ARC：通过推理引导的不确定性校准大型推理模型
本文提出 RL-ARC，一个校准感知的训练框架，通过联合利用推理置信度与答案置信度来校准大型推理模型，缓解 RLVR 训练导致的过度自信问题，并在 ID 和 OOD 设置下提升校准表现而不显著牺牲推理性能。
大型学习模型中增强且高效的推理
本文提出了一种改进大型语言模型推理的方法，通过重新编码数据以显式表示关系，实现高效且原则性的推理，并具备关系规则的多项式时间可学习性，从而解决幻觉问题并支持跨多次调用的可靠推理。
基于难度适应的树结构策略优化以扩展RLVR中的推理覆盖
论文提出了DATPO，一种基于难度适应的树结构策略优化方法，通过句子熵引导的分支和多样性感知优化来增强大模型中的推理覆盖，在pass@k指标上优于基线方法。