标签
研究提出「Weight-Space Programming」：让 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重，在不使用梯度或训练的情况下仅修改 0.016% 权重，修复推理循环并将数学能力提升至 6 倍、指令遵循提升 3 倍。
本文提出了 Stepwise-Querying 方法，在不访问黑盒教师模型内部思维链轨迹的情况下，引导其生成针对各个步骤的解释，并将这些解释整合为训练数据，用于对较小的学生模型进行监督微调。在涵盖两个教师模型、两个学生模型和四个数学／代码基准的 16 项比较中，该方法在 14 项中取得最高分，并引入了 SEIG 诊断指标，用于衡量逐步解释的信息增益。
论文提出 REWIND，一种基于词元熵动态的免训练控制器，用于在测试时通过定点后缀重新生成来修复大语言模型的推理轨迹，在三个模型系列和五个基准上超越所有基线。
CoTranslator 提出将逆向思维链推理轨迹翻译为经验证的正向推理分布，实现高效且可迁移的推理蒸馏；在六个数学基准上较语义抑制最高提升5.82个百分点，并以约35.9%的计算量保留拒采样95.0%的平均准确率。
提出 CriticOPD，通过让教师模型利用参考答案批判学生错误的生成轨迹，并让学生据此重写后续内容，从而恢复可靠的同策略蒸馏监督信号，在六个数学推理基准上相比 OPD 平均提升超过 4 个百分点。
本文提出 MagicBeanStalk，一种自顶向下分解与自底向上递归结合的 RLVR 数据合成算法，用以逃逸约88%数学语料落入的“零优势陷阱”，在多个数学与金融基准上显著提升 gpt-oss-120b、DeepSeek v4 Flash 和 Qwen3 的推理性能。
该论文提出 Tracking-Value PPO（TPPO），通过在对数几率空间对前缀值进行贝叶斯分解，构建累积值参数化以更好地跟踪语言模型推理中的值演化。TPPO 在 Qwen3-4B-Base 和 Qwen3-8B-Base 上分别比 PPO 提升 7.0 和 8.4 个数学推理分数点，并改善了分布外泛化能力。
OpenAI 尚未发布的模型仅凭一个提示就解决了数学基准测试中的大多数题目，每道题大约需要 3 小时的思考时间，尽管该模型直到 8 月底才出现。
论文提出了 BranchOPD（分支式同策略蒸馏），通过在学生模型不确定或与教师模型存在分歧的决策点进行分支采样，并共享前缀以降低成本，同时提出协议边界修复（PBR）来缓解重复生成。在数学推理和 ALFWorld/WebShop 智能体任务上，BranchOPD 显著优于标准同策略蒸馏和多轨迹同策略蒸馏。
VeriLoop E2 是由清华 SIGS 机器人实验室发布的 27B 开源后训练模型，基于 Qwen3.8-27B，专注代码、数学与物理推理，采用 VeriLoop-Governed Recurrence（VGR）验证机制，在 SWE-bench Pro、AIME 2026 等多项基准上取得强劲成绩。
该论文提出 Language-Aware Skeleton Exploration Framework (LASEF)，系统研究多层数学推理中骨架提示语言的选择问题，发现英语骨架平均略有优势但并非普遍最优，骨架语言是一个依赖上下文的设计变量。
COMPASS提出一种无需预定义推理特征的推理时激活转向方法：利用模型自身答案的正确性作为信号，定位少数关键注意力头并沿正确性方向干预其激活，在数学基准上以显著更少的token逼近CoT精度。
论文提出了通用文本教学（UTT），这是一种无需更新参数的知识蒸馏框架，将教师模型与学生模型之间的能力差距提炼为可解释、可复用的自然语言产物“入门指南”（Primer）。该框架在KernelBench和Omni-MATH-2上显著提高了学生模型的准确率（例如，从9.4%提升至48.6%），且入门指南可泛化至不同的教师与学生模型组合。
论文提出HEST方法，通过熵训练探针将大语言模型的隐藏状态嵌入到庞加莱球中，仅沿双曲测地线引导高熵（即犹豫）的token，从而在Qwen2.5-Math和Llama-3.1模型上提升数学推理准确率，而固定向量的欧式引导方式在这些模型上效果不佳。
本文提出了 SymCE，一个包含 4,707 条可由可执行 Python 验证器校验的错误数学猜想的数据集。研究表明，仅使用反例进行的 SFT（监督微调）会导致模型对真命题的识别能力崩溃，而采用 GRPO 风格的强化学习可以修复这一问题，并在性能上超越基础模型。
该论文提出 Seg-OPD（分段在线策略蒸馏），通过选择学生模型的不确定推理片段并用教师重写稿作为显式修订监督，训练学生学习如何修订推理步骤。实验显示在数学推理与竞赛编程任务上，相比基线平均相对提升 5.22% 的推理准确率。
本文提出了在线策略幂蒸馏（OPPD），它训练语言模型直接生成通常需要搜索才能获得的锐化样本。OPPD 在 MATH500 上将推理准确率提升了最高 23.0 个百分点，在不使用参考答案的情况下优于使用可验证奖励的 GRPO，代码已在 GitHub 上开源。
论文揭示了自我进化推理模型性能崩塌的原因——无效问题与数学上等价的问题重复，并提出 R-Quest，利用有效性与新颖性反馈来维持自我进化，在 12 个基准上经过十轮迭代后，比 R-Zero 高出 17.32 分。
GPT-6.1 Sol 已经打满（饱和）了 FrontierMath Tier 4 基准测试，而不到一年前，这一级别即便对研究级数学而言仍被认为异常困难；据报道，Astra 解决了 5 个 Erdős 问题，其中 2 个在预算内完成。
本文提出激活条件化自蒸馏（Activation-Conditioned Self-Distillation, ACSD）方法：通过对比模型自身生成的正确与错误轨迹之间的激活差异提取导向向量（steering vector），构建冻结的自教师模型，在五个模型的数学基准测试上取得最优平均准确率，其中在 DeepSeek-R1-0528-Qwen3-8B 上达到 71.9%。