标签
本文提出了 Stepwise-Querying 方法，在不访问黑盒教师模型内部思维链轨迹的情况下，引导其生成针对各个步骤的解释，并将这些解释整合为训练数据，用于对较小的学生模型进行监督微调。在涵盖两个教师模型、两个学生模型和四个数学／代码基准的 16 项比较中，该方法在 14 项中取得最高分，并引入了 SEIG 诊断指标，用于衡量逐步解释的信息增益。
Hugging Face发布了一套5步AI智能体后训练课程，涵盖SFT、蒸馏、基于GRPO的强化学习、RL环境以及harness规模训练，每一步都配有直播、代码和文档。
DynaFlow 提出了一种框架，使主智能体能够合成可执行工作流以自适应地协调子智能体，在六个基准测试中以 Qwen3.5-27B 为主干模型达到 88.08% 的准确率，较基线提升 10.90 个百分点。
该研究系统考察了在预训练与后训练阶段切换 AdamW 和 Muon 优化器的代价，发现最终性能主要由两个优化器各自独立的效果解释，切换优化器几乎没有额外的性能惩罚，后训练优化器的选择可基本独立于预训练优化器。
CoworkEnv 提出一个能力引导框架，为 AI 协同智能体合成可执行的训练环境，通过工作流引导的任务构建与程序化验证，支持 SFT 与 RL 训练紧凑的 PocketWorker 模型，在 Claw-Eval 多轮任务上取得显著提升。
小红书（RedNote）研究团队发布 Vela 框架，将真实用户行为记录转化为训练任务与轨迹，通过监督微调和强化学习提升大语言模型在用户相关任务（+11.5 分）及通用基准（平均 +4 分）上的表现。
GRADS 提出一种图引导的智能体数据合成框架，通过维护证据与推理依赖图实现可控难度的多跳任务生成；经 SFT 与 RL 后训练后，4B 模型在软件工程、科学与安全领域基准上匹配或超越 Sonnet 4。
该论文研究了工具使用型语言智能体在监督微调下的「选择性撤回」行为，提出一种能发现聚合准确率所掩盖的规则级回归的诊断方法，并表明微调本身并不足以保证智能体安全。
提出「在前沿LLM上迭代开发行为，再蒸馏到小模型（SLM）上线」的两阶段方法：用LoRA微调的Qwen3-8B在家庭护理排班智能体的生产决策上达到0.913一致率，优于教师模型GPT-5.4-nano自身重跑时72.7%的自我一致性，且延迟降低约2.5倍、成本大幅下降。论文已被NeurIPS 2026第二届企业任务智能体基准与应用研讨会（AABA4ET）接收。
AutoSFT 提出一个多智能体系统，将 SFT 数据研究中的执行、分析与合成分离，自动执行多样化的数据操作，相比单智能体在 IFEval、IFBench 和 MBPP+ 上取得显著提升。研究发现自动化 SFT 数据研究的关键在于覆盖多样化的数据操作，而非强化单一操作。
该论文提出了 Agent-Reflex，一个三阶段训练框架（反思技能发现、反思式监督微调和同策略反思式策略优化），旨在教会语言智能体在含噪声的工具反馈和用户干预下主动反思，并使用 Qwen3-8B 在长程工具使用基准测试中取得了最先进的结果。
本文提出 CIG-SFT，一个信息论框架，通过估计每个示范 token 的任务条件信息增益来加权监督信号，从而在数学推理与代码生成基准上提升 SFT 的泛化能力，且无需额外数据或在线采样。
论文提出了 TQS（轨迹质量评分），一种基于轨迹结构信号（信息聚焦、意图与行为对齐、策略动态）的线性时间评分框架，用于筛选高质量编码智能体轨迹进行监督微调。实验表明，在 TQS 排名靠前的轨迹上训练的模型，在 SWE-Bench Verified 上的表现优于使用随机或低质量子集训练的模型。
该论文提出一种不确定性引导的渐进收缩框架，通过构建蒙特卡洛推理树评估过程级不确定性，并在SFT阶段进行在线路由，仅使用全量SFT约0.22%的优化预算（减少450倍以上的训练暴露）即可维持或提升LLM的推理能力。
论文提出 Adaptive Mutual Distillation (AMD) 框架，通过两个采用不同任务平衡策略的模型进行协同蒸馏，并利用短训练探针和任务级验证分数自适应调整各任务与传输方向的蒸馏权重，在六个基准和三个 LLM 骨干上取得优于 SFT 与现有任务平衡方法的效果，合并后平均提升 2.91 分。
AutoCompact 训练编码智能体自主决定何时压缩上下文、保留哪些工作状态、以及如何恢复——先用裁判修正后的轨迹做 SFT，再用任务成功奖励进行强化学习，在 SWE-bench Verified 上提升 +9.2%，在 SWE-PolyBench Verified 上提升 +5.0%。
Maxime Labonne 分享了 Aayush Karan 的研究，该研究认为 SFT 泛化能力弱于 RL 的根源在于离策略数据，而非目标函数本身——将专家轨迹重写为与基模型自身输出一致的形式，其效果可媲美甚至超越 RL 与在线策略蒸馏（on-policy distillation），同时遗忘更少。
作者认为监督微调（SFT）并未被淘汰，提出了一种使 SFT 与 RL、OPSD 等主流后训练方法不相上下的方法——通过在后训练流程中引入采样，往往泛化更好、遗忘更少。
GraphForge 提出了一种证据图框架，将智能体的任务生成与验证共同锚定在真实文件之上，从而能够为工作场景中的智能体合成可验证的训练轨迹。在 2,169 条 GraphForge 轨迹上对 Qwen3.6-27B 进行微调后，模型在 GDPVal、Workspace-Bench-Lite 和 SpreadsheetBench II 上均有所提升，而采用拒绝微调（rejection fine-tuning）则能进一步取得增益。
论文提出了 GoldiMask，一种用于扩散语言模型监督微调的方法：它通过次模优化选择上下文词元，并根据上下文的贡献对预测目标进行加权，从而在多个骨干模型上提升了推理与代码生成基准测试的准确率。