标签
本文介绍了微宏观检索（M2R），一种边检索边生成的框架，通过确保关键信息紧邻生成文本，减少长文本LLM输出中的幻觉。它使用基于课程学习的强化学习来训练检索和接地技能，在长上下文场景中尤其有效。
本文提出Staged-Competence，一种基于课程学习的DPO安全对齐框架，它按难度组织偏好数据，显著提升鲁棒性和数据效率，同时保持通用能力。
介绍TELL，一种AI生成文本检测系统，它在提供数值评分的同时给出可解释的标注，实现了具有竞争力的AUROC 0.927，并允许用户根据高亮的文本指标判断作者身份。
本文实证研究了训练数据的组成（课程）如何影响基于强化学习的记忆代理在多会话问答中学到的技能。研究发现，课程组成作为专业化的细粒度杠杆，混合基准测试在整体性能上表现最佳，而狭窄的域外数据集则传递了有针对性的时间推理技能。
本文提出了一种基于自定进度课程学习的即插即用模块，用于增强多模态对话情感识别中的模态平衡，在IEMOCAP和MELD数据集上实现了F1分数的一致提升。
RPS是一种受神经科学启发的两阶段LLM后训练方法，结合了课程学习和学习率衰减。初步结果显示，与等学习率训练相比，在Qwen3-8b上程序合成可靠性得到提升。
SCRL是一个课程强化学习框架，通过子问题级归一化和课程学习改进LLM推理中的信用分配，在数学推理基准测试中优于基线。
介绍了一种优先遗憾驱动优化框架PROWL，该框架利用对抗性课程通过聚焦高误差轨迹来提升基于扩散的世界模型的鲁棒性，在MineRL中的分布外场景上取得了更好的性能。
本文提出一种分阶段训练方法，将视觉感知、视觉推理和文本推理分离为不同阶段。该方法提高了视觉推理准确性，同时缩短了推理链条长度，表明更强的感知能力可减少对过度推理的需求。
本文提出了一种基于空间相关性的物理信息神经网络（PINNs）课程学习框架，通过利用子区域间的空间相关性来提高训练稳定性和求解精度，解决了高维非凸损失景观和多目标约束不平衡等问题。
介绍了VectraYX-Nano，一个从零开始训练的42M参数仅解码器西班牙语网络安全语言模型，具备课程学习、通过MCP的原生工具调用以及一个1.7亿词元的语料库。实证发现揭示了损失-寄存器反转以及工具使用能力的语料密度伪影。
研究人员发布了SU-01，这是一个30B-A3B推理模型，在物理和数学奥林匹克问题上达到了金牌水平，使用了一种统一的证明搜索缩放方法。
BACR通过自适应token预算与课程感知调度，防止LLM在简单题上想太多、在难题上想太少，token用量降低34%，准确率最高提升8.3%。
## 指令微调能否提升大语言模型的纵向建模上下文学习能力？ 来源：[https://arxiv.org/html/2604.16382](https://arxiv.org/html/2604.16382) Iqra Ali¹, Talia Tseriotou¹, Mahmud Elahi Akhter¹, Yuxiang Zhou¹, Maria Liakata¹,² ¹伦敦玛丽女王大学（英国），²艾伦·图灵研究所（英国） {iqra.ali,t.tseriotou,m.liakata}@qmul.ac.uk ###### 摘要 纵向NLP任务要求对时间有序的文本进行推理，以检测人类行为和观点的持续性和变化。然而，大语言模型的上下文学习在模型必须整合历史上下文、跟踪不断演变的交互，以及处理罕见变化事件的任务上存在困难。我们提出了LiFT，一个纵向指令微调框架，将多样化的纵向建模任务统一在共享的指令模式之下。LiFT采用课程式方法，在逐步增加时间难度的同时融入少样本结构和时间条件化，以鼓励有效利用过去上下文。我们在五个数据集上评估了LiFT。在不同时间粒度级别上针对纵向任务训练的模型，在两个独立数据集上进行了泛化能力测试。在不同参数规模的模型（OLMo（1B/7B）、LLaMA-8B和Qwen-14B）中，LiFT始终优于基线模型的上下文学习，在分布外数据和少数类变化事件上表现出显著的提升。
CLewR引入了一种带重启的课程学习策略，用于通过偏好优化改进LLM的机器翻译性能。该方法通过多次迭代简易到困难的课程来解决灾难性遗忘问题，在Gemma2、Qwen2.5和Llama3.1模型上展现了一致的性能提升。
本文提出隐性课程假设，证明语言模型预训练遵循一个结构化的、组合性的课程，其中能力跨架构一致涌现，并可从内部表示预测。作者通过设计涵盖检索、形态学、共指消解、推理和数学的任务进行验证，发现四个模型族中涌现顺序高度一致（ρ=0.81）。
# 解决（部分）形式化数学奥林匹克问题 来源：[https://openai.com/index/formal-math/](https://openai.com/index/formal-math/) 我们在 [miniF2F](https://arxiv.org/abs/2109.00110) 基准测试上实现了新的最先进成果（41.2% vs 29.3%），这是一个具有挑战性的高中奥林匹克问题集合。我们的方法称为*语句课程学习*，包括手动收集一组难度级别不同的陈述（不含证明）
OpenAI研究人员提出了VALOR，这是一种用于选项发现的变分推断方法，它将选项学习与变分自编码器联系起来，并提出了一种课程学习方法，通过动态增加上下文复杂性来稳定训练。
# 后见之明经验回放 来源：[https://openai.com/index/hindsight-experience-replay/](https://openai.com/index/hindsight-experience-replay/) ## 摘要 处理稀疏奖励是强化学习（RL）中最大的挑战之一。我们提出了一种名为后见之明经验回放的新颖技术，它允许从稀疏二元奖励中进行样本高效学习，因此避免了复杂的奖励工程设计的需要。它可以与任意组合