标签
本文提出一种神经符号框架，将推理解耦为符号有效性和语义 grounding，利用验证器和训练的PRM来提高LLM在科学推理任务中的可靠性。
本文研究了Evolution Strategies (ES)作为LLM推理的后训练范式，表明ES通过稀疏功能更新和种群多样性，提供了比GRPO更广泛的推理覆盖和更好的Pass@K性能。
一个高度量化的Qwen3.8-27B模型在16 GB Quadro GPU上运行，尽管经历了超过100分钟的广泛推理和调试，仍从零开始成功实现了正确的多层传输矩阵法。
本文实证研究了词汇扰动如何通过Attention Diversion破坏大语言模型推理，发现字符级噪声显著降低性能，而填充插入则影响甚微。
LURE引入了一种用于LLM推理的零数据自我对弈框架，该框架使用追逐-逃避游戏来动态调整任务难度并提供密集奖励，在多种环境中超越基线。
本文提出一种统计模型，用于高效估计文本生成中的不确定性动态，平滑嘈杂的重采样数据，以在保持LLM推理链分析准确性的同时显著降低计算成本。
本研究介绍了BudgetDoc，第一个用于评估文档任务中模型-预算-性能权衡的多模态基准，并开发了DRB，一种轻量级估计器，用于预测推理性能以优化计算分配并降低LLMs成本。
这篇文章总结了八种基于Google、OpenAI和Anthropic研究的推理时技术，用于改进大语言模型推理，包括权衡和实用注意事项。
这篇arXiv论文介绍了社会思维链（SCoT），一种用于医学鉴别诊断的多智能体架构，它将多轮专家对话组织成结构化流程。评估显示，它优于单智能体和整体式推理，尤其是在最困难的诊断案例上。
本文表明，对于小型指令微调LLM，在GPQA Diamond基准的大多数硬科学问题上，基于多数投票的自洽性（self-consistency）会适得其反，而诸如多数一致性或令牌熵等无验证器门控无法防止这一问题。预注册的验证性实验量化了准确率下降，并表明置信度并不反映正确性。
The paper proposes an Inverse Theory of Mind (IToM) pipeline that infers user beliefs, preferences, and decision-making traits from observed interactions, using LLM-driven counterfactual reasoning to synthesize structured user personas for adaptive content recommendation across modalities, including a VisionOS spatial banking app.
这项实证研究测试了思维链提示何时有助于或损害LLM推理，发现CoT在GSM8K和MATH等深层串行任务上带来巨大收益，但在MMLU和ARC-Challenge等浅层任务上则是冗余的，这与串行深度瓶颈框架一致。
本文提出了一个形式化框架，用于从多元结构理论中构造规范解释，其动机来自 LLM 辅助推理中的结构失效。它区分了非确定性的类型，并为许可的规范化提供了条件，但并未对所有情形建立完全的确定性化。
SymDiag 是一种神经符号框架，将思维链推理转化为符号约束，并执行步骤级可满足性检查，以定位 LLM 推理中的失败，从而区分翻译错误与推理错误。
论文提出了一个平均场框架，将大语言模型中的思维链推理建模为线索图上的引导式发现过程，推导出已发现线索比例的常微分方程，并通过实验进行了验证。
本文提出Hyper-ES，一种基于子空间的进化策略框架，用于LLM推理。该框架通过轻量级基于梯度的微调获得下降方向，然后使用CMA-ES合并逐层的DARE-TIES系数，在需要更少梯度更新的情况下持续优于GRPO-LoRA。
本文研究将带特权信息（PI）的自我蒸馏（SD）作为LLM唯一的后期训练目标，在简单任务上复现了已报告的性能提升，但表明它在困难推理任务上会失败：逐token损失下降，而验证准确率停滞或下降。作者将失败归因于PI偏置，它把教师目标拉向参考轨迹，训练出的学生更平坦、更不果断，却没有提升推理能力。
本文提出 OM-GRPO，一种无标签 RLVR 框架，通过对答案片段上的梯度进行掩码，将奖励估计与策略优化解耦，并引入对比增强奖励（Contrast-Augmented Reward），无需额外采样即可细化奖励估计。该框架在多种推理基准上持续优于现有无标签方法，并与有监督的 ground-truth 奖励训练表现相当。
This paper characterizes 'futile reasoning' in large language models, where models produce superficially valid but incorrect reasoning on tasks beyond their capability. They introduce CaRL, a capability-aligned reinforcement learning method that trains LLMs to abstain from futile reasoning while preserving performance.
本文提出一个框架，通过加权合并从多个大语言模型中提取的有向无环图（DAGs）来集成其推理结构，从而在多个基准测试中实现更准确、更具可解释性的共识推理。