标签
本文提出了一种针对Transformer模型的类睡眠巩固机制，该机制利用快速权重和递归传递来改进长上下文处理，同时保持推理速度。
讨论了AI系统能解决复杂数学问题却难以完成基本算术（如两数相加）这一明显矛盾。
引入LambdaPO，一种新颖的强化学习框架，它通过将优势估计分解为成对偏好比较并添加语义密度奖励来改进GRPO，从而在数学推理任务上取得了更好的性能。
FEST是一种少样本演示引导的强化学习算法，通过结合监督信号、在线策略学习和加权训练以防止过拟合，仅需极少的监督微调数据即可实现强劲性能。
提出反自蒸馏（AntiSD），该方法逆转自蒸馏中的知识转移方向，以提高数学推理的效率和准确率，在4B到30B参数的多个模型上，用2-10倍更少的训练步数达到GRPO基线的准确率，最终准确率最高提升11.5个百分点。
社区发布：用 REAP 把 NVIDIA Nemotron-3-Super-120B 剪到 64B，再用 GRPO 做数学强化微调，最后 AWQ/FP8 量化，单卡 H100/RTX PRO 6000 即可跑到 AIME 2026 90%+。
TabularMath 引入了一个基准和 AutoT2T 框架来评估 LLM 对表格数据的数学推理能力，揭示表格复杂性、数据质量和模态对模型性能的重大影响。该研究通过系统地评估模型对真实场景中不完整或不一致表格信息的鲁棒性，填补了 LLM 评估中的空白。
本文介绍了自适应工具信任校准（ATTC）框架，该框架通过使工具集成推理模型能够根据代码置信度得分自适应地决定是否相信或忽视工具结果，从而改进了这些模型。该方法解决了模型错误地忽视正确工具输出的"工具被忽视"问题，在多个模型和数据集上实现了4.1%-7.5%的性能提升。
OpenAI 训练了一个使用验证器的系统来解决小学数学应用题，准确率达到儿童水平的 90%，性能几乎是微调后的 GPT-3 的两倍。该方法通过训练验证器来评估候选解决方案并选择最佳方案，解决了语言模型在多步推理中的弱点。