标签
PrimeSeeker 提出一种面向能力的监督框架，通过「潜在锚点推理」将深度搜索分解为锚点解析与关系传递的耦合操作，据此构建网络证据结构、联合生成问题与参考证据骨架，训练出 30B 搜索智能体，在五个深度搜索基准上以更少工具调用取得强性能。
本文提出 OPSFT（同策略方向约束监督微调），将 SFT 的参数更新方向约束为在同策略强化学习训练中观测到的方向，表明同策略范式的泛化优势可以迁移到 SFT 中，从而提高训练效率，并能够利用高质量轨迹。
本文提出了 Scaffolding Minds 方法，通过学习一个专用的脚手架编码器来获得优化的隐空间视觉目标表示，并同时学习强化学习采样器的均值和方差，将隐空间推理基线在 Frozen Lake 空间规划任务上提升 +9.5 分，并在九个视觉推理基准上平均提升 +5.6 分。
本文提出了HybridCUA，一种结合GUI和CLI交互的计算机使用代理方法，采用两阶段训练框架，包括监督微调和强化学习，以提高任务准确性和跨平台通用性。
本文提出一种轻量级的、基于规则的多样化SFT轨迹选择器，以提升推理模型在后RL阶段的泛化能力，并在数学基准测试中展示了显著的性能提升。
本文指出，基于 LLM 的评分器即使产生相同的排名质量，当提示中候选内容的顺序发生变化时，仍可能做出不同的决策，并提出顺序一致性 SFT（OC-SFT）来惩罚不同排列顺序下分数的不一致。在重排序、响应排序和多文档问答任务上，OC-SFT 在保持排名质量的同时，提升了决策稳定性。
CaptchaArena是一个用于训练计算机使用代理解决交互式CAPTCHA的大型细粒度数据集，包含50K谜题和注释。相关的CaptchaAgent模型使用监督学习和强化学习达到了71.7%的准确率。
Spatial-Interactor是一个框架，通过与物理世界的交互训练视觉语言模型以增强空间推理能力，采用三级课程和两阶段训练策略来改进状态转移建模和长期集成。
本文提出了一种平衡监督微调和强化学习的方法，用于训练长期广告代理，表明定向RL可以减少数据泄露，并提升企业分析任务的性能。
本文诊断了AI智能体中次轮评估指标与自主工作流执行成功率之间的差距，表明监督微调虽然提升了轮次级别的性能，却未能增强端到端的工作流成功率。
这项对照研究比较了监督微调和强化学习方法在不同数据集和模型规模下训练工具调用代理的表现，发现SFT结合LoRA在分布内表现最强，而RL在跨数据集迁移中略有优势。
本文介绍了TrimSFT，一种用于监督微调的标记级重加权方法，通过聚焦中间logit间隔标记来增强数学推理，相比标准SFT显示出显著的性能提升。
NeoHorse-1 通过智能路由和反馈循环的代理后训练，探索AI模型中的递归自我改进，展示了在各种基准测试中的性能提升。
本文发现，在后训练期间，大型语言模型可以从截断的推理轨迹而非完整轨迹中获得推理改进，减少冗余的同时，有利于监督微调和强化学习等方法。
Terminal-Universe 是一个框架，它从智能体轨迹中重建可执行工作空间，以合成多样化的训练任务，并通过监督微调提升 AI 智能体的后训练性能。
本文介绍了Elite-Weighted Supervised Fine-tuning（EW-SFT），这是一种用于目标导向分子优化的方法，它使用奖励来指导精英选择，并通过模型自身的损失进行更新，适用于各种生成架构和任务。
本文介绍了一种针对编程竞赛金牌表现的语言模型后训练专用化流程，通过监督微调和强化学习等技术，在IOI基准测试中取得高分。
CogEvol是一个模型系列，能够通过监督微调和带有视觉语言奖励的强化学习，在一次处理中高效生成结构化学习产物，如幻灯片和交互式HTML页面，从而降低成本并提高可靠性。
本文研究了一款用于对话游戏的2B模型的失败案例，并介绍了一种诊断引导的后训练方案，该方案使用SFT、DPO和LoRA来提升性能，同时保持通用能力。
本文识别了大语言模型在监督微调后出现的事实访问失败现象，并介绍了回忆锚定蒸馏（RAD），无需标注数据即可保留分布外事实回忆能力。