标签
该论文提出了CLR-Bench，一个由隐藏规则组成的基准课程，用于评估自我进化的大语言模型智能体能否从反馈中学习潜在规律。研究发现，除非给定固定的课程内容或使用更强的基础模型，目前大多数自我进化方法几乎无法学到任何东西。
该论文构建了一个最小化的策略学习模型，从数学和数值上分析了课程学习在奖励稠密与奖励稀疏情形下的效果差异，发现课程学习在稀疏奖励且存在竞争性最优解时几乎是必需的。
ICCLHerd 提出一种基于 herding 的 LLM 训练数据选择框架，利用 von Mises–Fisher 核平衡 mode-seeking 与 mode-averaging，并以 in-context learning 作为验证代理进行超参数搜索，实验表明其优于现有数据选择算法。
一个通过自我博弈强化学习在单台桌面电脑（RTX 3090）上训练的智能体，对《魔兽争霸III》内置的最高难度AI取得了89%的胜率。训练在Wine下运行未经修改的真实游戏，借助自定义的垫片和测试框架，历时三周完成了84万局对战。
该论文研究了工具使用型语言智能体在监督微调下的「选择性撤回」行为，提出一种能发现聚合准确率所掩盖的规则级回归的诊断方法，并表明微调本身并不足以保证智能体安全。
WEDGE 是一个弱点引导的导航学习框架，利用大语言模型从预训练策略的成功与失败轨迹中诊断失败模式，并据此生成针对性训练环境，在 ProcTHOR 和 HM3D 上显著优于随机与难例挖掘基线。
NVIDIA 研究人员提出了 NV-Tesseract-AD，这是一种由课程学习增强、以 Transformer 为骨干网络的条件扩散框架，用于多变量时间序列异常检测。其 F1 分数达到未采用课程学习的基线模型的约 3.7 倍，并在 EasyTSAD 基准测试中展现出强大的零样本迁移能力。
AdaC-GRPO 使用基于在线采样准确率的自适应课程学习动态构建训练批次，帮助 Qwen2.5-VL-7B 掌握长时程视觉数独推理任务，并发布了细粒度基准 FG-Sudoku。
该论文研究了约1060万参数的微型Transformer如何借助算法草稿本（algorithmic scratchpads）和分阶段的层次化发展课程学习多步算术运算，结果显示除法准确率从4.0%提升至86.7%，同时论文也指出了灾难性遗忘以及对未见过的操作数规模泛化能力差等失败模式。
该论文通过冻结选中子集并只更换训练学习器的受控实验，证明样本价值（以及 easy-first 与几何覆盖策略的 crossover budget）是相对于目标学习器定义的，而非数据的固有属性。
学习在能力前沿时最有效：对于经 GRPO 训练的 LLM 推理器，总是或从不被解决的问题产生零梯度。作者们提出"Frontier Learning（前沿学习）"以瞄准这一有效的训练机制。
ServiceNow CoreAI 推出了 AutoSynthData，这是一条数据流水线，能将企业智能体模型的失败记录与更强教师模型的成功案例，转化为可行、真实且经过验证的训练任务。文章以 EnterpriseOps Gym 环境和发布的数据集为例进行了说明。
StateTree 提出一种数据驱动的强化学习方法，通过构建树结构的路径追踪辅助任务来增强长对话推理。模型仅在 10K token 上训练即可泛化至 128K token，StateTree-14B 在 LongMemEval 上达到 59.00% 的准确率，超过 QwenLong-L1-32B。
ActiveSaddler 将动态课程学习建模为非平稳多臂老虎机问题，实现了 LLM Agent 优化中训练场景课程与 harness 的协同进化，在 GAIA2 和 Terminal-Bench 2.0 上分别将 Pass@1 提升了 4.4 和 7.5 个百分点。
SFTMill 是一款开源工具，支持使用 OpenAI 兼容端点对大型语言模型进行离策略蒸馏，允许用户从课程中定义的行为目标创建训练数据集。
本文探讨在数据限制下使用代码切换文本来对齐小型语言模型的表征，表明涉及代码切换的课程能提升多语言性能。
本文提出了LT-OPD，一个用于多模态大语言模型中极端视觉令牌缩减的策略内自蒸馏框架，在低令牌预算下显著提升性能，同时减少KV缓存使用和FLOPs。
本文提出AdvRole，一种用于训练大型语言模型中角色扮演智能体的对抗性闭环课程框架，该框架通过演化场景池以提升在基准测试上的性能。
本文系统分析了语音标记语言模型中基于长度的训练，表明在批次组成和标记暴露固定的情况下，短到长排序无独立益处，并评估了损失归一化的影响。
Spatial-Interactor是一个框架，通过与物理世界的交互训练视觉语言模型以增强空间推理能力，采用三级课程和两阶段训练策略来改进状态转移建模和长期集成。