标签
UltraX 提出了一种面向大规模预训练数据的函数调用式优化框架，在删除和修改之外引入插入操作，补全了编辑函数空间，从而实现细粒度的实例级编辑。该框架构建了可靠的程序监督生成流水线，在从头训练 1B 模型时，展示了更优的数据效率和模型性能。
介绍CDR-Bench，一个包含3,462个任务的基准，用于评估LLM忠实执行组合性、顺序敏感数据精炼指令的能力。在10多个LLM上的实验表明，在组合性和顺序敏感的设置中性能显著下降，凸显了缺乏执行流程的忠实性。
RAFT是一个两阶段框架，用于LLM的领域特定微调。它通过优化监督数据和使用带有自适应损失平衡的在线策略蒸馏来解决灾难性遗忘问题，在提升领域精度的同时恢复通用能力，取得了显著改进。