标签
该论文提出了一个统一的六维分析框架，系统综述了2017–2026年大模型训练全流程（数据与分词、预训练、SFT与偏好对齐/强化学习）的395篇核心文献，并揭示了跨阶段效应与多个开放问题。
提出 Conceptizer 训练框架，通过约 9 千个基于上下文同义词构建的概念词表，在下一词元预测之外增加意义层面的奖励信号，在 Llama 3、Qwen2.5 和 Falcon3（10 亿至 80 亿参数）上改善了困惑度指标与下游知识/情感任务表现。
该论文提出，在KL正则化控制下，策略的对数几率隐含了其运行框架（提示、工具、控制逻辑）的偏好，部署性能等于运行框架的潜力上限减去策略失配；在MiniWoB++和Terminal-Bench Lite上的实验证明，仅用固定模型比较运行框架无法预测训练收益，而预先测得的上限与失配程度能够准确预测训练收益。
谷歌研究人员提出了一种无需数据的同策略自蒸馏框架，让大语言模型根据粗略的主题描述，自行合成由查询和特权推理轨迹组成的训练课程，从而在无需外部监督的情况下，在文本和多模态基准测试中实现自我提升。
研究人员推出了 Solvent，这是一个拥有 80 亿参数的大语言模型，通过结合强化学习与迭代式路线修订的两轮后训练课程，将长程推理扩展至多步逆合成，在四项基准测试中取得了 61.86% 的成绩，媲美前沿的万亿参数模型。
该论文提出了 DIAL-S2ST，一种后训练方法，通过对前瞻预测进行自蒸馏并联合训练 LoRA 适配器，使同声语音到语音翻译模型学会在推理时控制延迟。该方法仅使用 10 小时的源语言语音，便在基于 Hibiki 的法语到英语翻译中展示了灵活的延迟控制能力。
ParetoRSI-Gym 提出一个多领域递归自我改进（RSI）评估框架，在固定模型与训练管线的前提下让智能体自主搜索与筛选数据，结果显示最强系统（Claude Code + Opus-5）在五个领域上带来平均 9.2% 的相对泛化提升，且各智能体展现出独特的数据选择策略。
Modal 发布 Spindle，一个开源、与 Tinker 兼容的训练服务器，可在 Modal 工作区中运行，让现有 Tinker 脚本无需改动即可迁移，并以 GPU 时间计费取代按 token 计费。
本文识别出一种名为“同策略审计崩塌”的失效模式：在改进后策略产生的数据上，依据完整结果标签更新组件验证器，会导致审计系统性地偏好更差的验证器。作者推导了精确的反转阈值，并提出通过在更新分布中保留对验证器自身失效样本的支持来修复审计。
论文提出了技能模式迁移（SST）框架，通过将新领域知识重构为模型已有技能空间中可复用的程序化模式，来缓解持续领域适应中的灾难性遗忘。在两个拥有 30 亿参数的模型上，该框架将 Qwen 数学任务流的最大遗忘幅度从 42.41 个点降至 7.10 个点。
论文提出 LADDER（Layer-Wise Allocation via Damage-Driven Evaluation and Refinement，即基于损伤评估与优化的逐层剪枝分配），一种面向大语言模型的非均匀后训练剪枝方法。该方法通过逐层评估来最小化每移除参数所带来的性能损失，并生成一条嵌套的掩码轨迹；在稀疏度超过 70% 的情况下，其表现显著优于基线方法。
Baseten Labs 发布 mammoth-1（27B）和 elephant-1（9B），宣称是全球最佳决策模型，在 Jev Decision Index 上排名第一。基于 Qwen3.5 主干模型的后训练采用了块双向注意力掩码处理全注意力层，并使用了高度可扩展的数据配方。
在 PyTorchCon 2026 上，CrusoeAI 的 Yiwei Song 介绍了 Crusoe 的 LLM 后训练平台，其中包括 Crusoe Managed RL——一个与 Tinker API 兼容的服务，让客户可以自定义开放权重模型，而 GPU 基础设施则由 Crusoe 负责运维。
ByteDance 等机构的 Athanor 论文显示，4 个 Claude Opus 5.5 Agent 各自占用一台 8 卡机器，在 104 小时无人工干预下自主完成后训练，将 Qwen3-4B-Base 提升至官方 Instruct 水平（开发集 15.9→67.3，held-out 9.2→48.2）。
论文提出了LoWAgent，这是一个低资源语言多语言基准，涵盖英语、印地语、孟加拉语、乌尔都语和阿姆哈拉语，在六个本地化网站上包含3,000个任务，用于评估网络智能体的表现。研究发现低资源语言下的性能下降明显，尤其是开源模型；同时表明在基准数据的轨迹上进行后训练可以提升智能体的性能。
论文提出 projected distillation，通过将学生的失败尝试最小编辑为正确目标，实现近似 on-policy 的学习信号，在数学、代码、科学和工具使用等领域显著优于 GRPO 和 on-policy distillation 等基线。
论文提出 OptEP，一种面向混合专家（MoE）语言模型的后训练专家剪枝方法，通过连续松弛优化专家选择变量并结合重构驱动的权重更新，在 Qwen3、GLM-4.5-Air、Mixtral 等模型上显著优于现有剪枝基线，激进剪枝下精度提升最高达 16.20%。
Navalia 是一个协作智能体框架，将源自企业财务报告的可验证任务合成与长程后训练（SFT + RL）相结合，在五项智能体基准测试中均在其基座模型 Qwen3.6-35B-A3B 之上取得了持续的性能提升。
在 PyTorchCon 2026 上，Sara Hooker（Coatue/Adaption AI）发表主旨演讲，探讨扩展更大模型的局限以及向自适应智能的转变，涵盖后训练、测试时扩展、自适应计算和硬件协同设计，并展示 AutoScientist 相关案例。
AgenticRoboRL 是一个跨多种机器人执行框架（harness）对机器人规划器进行监督微调与多轮强化学习的后训练框架，在 LIBERO-PRO 上将 9B 规划器成功率从 18.1% 提升至 71.0%，接近使用外部记忆的 Codex (GPT-5.5) 的 72.1%。