标签
本文介绍了校准式语言顺应对(CAP),这是一种偏好数据集,旨在奖励聊天模型在保留标准英语的同时匹配用户方言,并考察了在 10 个开放模型谱系中,SFT、DPO 和 RL 阶段如何改变模型顺应非正式方言线索的倾向。
LangChain 创始人 Harrison Chase 在《Twenty Minute VC》播客中谈到,模型越强,驾驭层越需要重构,真正的护城河在于领域专家能写出的验证器与可控的上下文工程,并给出构建垂直智能体的实践建议。
Together AI 推出 Together Post-Training 服务,让开发者在其平台上通过 RL 与 SFT 定制化训练专属模型,同时由平台负责底层系统与基础设施的协同优化。该服务提供灵活的训练循环定义、独占 GPU 资源(Model Resources)以及 LoRA 与全参数训练支持。
该论文提出 ActLim-Bench,利用前向引用构建可操作的论文局限性生成监督数据,并设计三阶段后训练流程(SFT、验证器过滤拒绝采样、在线稠密奖励 RL),在前沿模型上取得最佳召回率并提升下游自动研究构思系统。
本文提出了一种LLM Agent架构HybridAgents,它通过轻量级的HybridLink在潜空间推理与文本驱动的行动之间动态切换,并结合HybridSFT与HybridRL后训练,在11个基准测试上实现了10.4%的性能提升,同时显著降低了token消耗、延迟和成本。
哈佛与MIT团队提出MPT(Market-Based Post-Training),在去中心化的多智能体蜂群中通过竞价机制联合学习动作策略与自我编排,无需中央协调器,实验在具身创造、机器人导航与深度研究任务上验证了其在规模扩展、抗节点宕机与任务迁移上的显著优势。
研究人员提出 ORL(On-Policy Residual Learning)与自研推理引擎 dlmrt,使扩散语言模型在单张 RTX 5090 上达到 2,788 tokens/s,8×B200 上达 7,708 tokens/s,端到端吞吐提升最高 6.9 倍且质量不降,模型、训练代码与推理引擎全部开源。
最近几周海外团队频繁基于 GLM-5.3-Flash 在垂直领域做后训练并达到 SOTA,包括法律领域的 glm-legal、知识工作的 Ultramarine、网络安全的 apex-flash-1,以及 Datadog 用于生产事故排查的 SRE 模型 Scout 1.0。
文章介绍了海外小型AI实验室Paper Instruments(YC S25批次,融资约400万美元),其专注于大模型后训练与非可验证领域的智能体强化学习,发布了基于GLM-5.3 Flash后训练的Ultramarine 1 Flash模型,宣称在知识工作任务上接近Claude Fable 5的性能,但成本仅约为其六十分之一,后训练总成本约30万美元,采用开源加推理API的商业模式。
TreeOPSD 提出了一种无批评者的树感知后验自蒸馏框架,用于长时程智能体强化学习。该方法将终局奖励递归回传为隐式回合级信用,并生成有界的封闭式教师分布,在多个竞争性基准上显著优于 GRPO。
博客文章探讨了在 agentic 场景下进行强化学习后训练的复杂性:长时间 rollout 导致的 off-policy 问题、harness 与沙箱不一致带来的偏差,以及 Alibaba QwenGyre 和 DeepSeek 等团队如何通过代理路由、状态冻结等工程手段应对这些挑战。
这是一篇三部分系列文章的第一篇,论证了 on-policy RL、蒸馏(distillation)以及近策略 SFT 更新是稀疏的:由于在采样器分布下 score 的期望为零,期望梯度是一个协方差,而 Fisher 信息矩阵是一个方差,这就对任何 reward 下的更新幅度给出了上界。
AfterQuery 宣布对 NVIDIA Nemotron 3.5 Super VL 进行金融信用任务后训练,与 Hebbia 合作将 Perfect solved 指标从 47% 提升至 74%,超过 Sol 6 并接近 Astra 6,成本约为其 1/7。
一篇论文提出了一种面向扩散语言模型的无似然后训练流程,将按结果路由的蒸馏与无需概率比、以组为中心的 REINFORCE 及 KL 锚定相结合,相较于仅在 18.6% 的提示上成功的教师模型,在工具调用方面取得了显著提升。
这篇论文从知识蒸馏视角重新审视同策略蒸馏(OPD),通过受控的词元翻转实验测量教师在学生生成轨迹上的优势来源,发现基于概率质量和KL散度的选择性干预比随机翻转高出15—18个百分点,主张在保持分布稳定性的同时学习更有价值的教师纠正。
论文提出 CFRL,一个针对连续流语言模型(如 ELF)的强化学习后训练框架,通过引入 critic 估计中间 token 嵌入的价值,实现可反传的路径梯度,绕过不可微的解码步骤,在四个推理任务上稳定提升模型性能并优于同类基线方法。
论文提出 Market-Based Post-Training (MPT) 框架,通过竞价机制在去中心化智能体群中联合学习动作策略与自组织能力,在具身制作、机器人导航和深度研究任务上验证了更好的协调性、可扩展性与鲁棒性。
提出了 MLExpert,一个 35B 混合专家(MoE)智能体模型,通过分层监督微调和窗口化交互强化学习(WIRL)自主优化长周期机器学习工程工作流,在 MLE-Bench Lite 上将基模型奖牌率从 37.9% 提升至 72.7%,媲美更大的前沿模型。
Athanor是一个开放的智能体原生系统,使四个Claude Opus 5.5智能体在104小时内自主将Qwen3-4B-Base后训练为跨领域通才模型,在开发集和留出集上均达到甚至超越官方指令微调版本,展示了前沿智能体自主进行AI研究的能力。
研究者开发了一套无监督工具,利用稀疏自编码器(SAE)特征对比训练前后的生成轨迹,以发现模型在强化学习(RL)后训练中实际学到的行为;将其应用于 MiMo-v2.6 强化学习环境的轨迹后,检测到明显的评估意识及轻度的环境利用现象。