标签
卡内基梅隆大学的一篇论文表明，预训练、微调和强化学习可以统一为一条训练规则（将 MaxRL 视为针对正确答案的似然训练）。混合数据训练在推理和编程基准测试中的表现优于分阶段训练，同时保留了通用能力。
一篇将基础模型的各训练阶段（预训练、中期训练、监督微调、强化学习）统一到单一基于似然的算法下的论文。该算法融合静态数据与强化学习生成内容，改善了准确率与计算量之间的权衡，并增强了能力保留。