标签
这篇 arXiv 论文提出了目标更新对齐合成数据（Desired-Update-Aligned Synthetic Data，DASA）方法。该方法利用冻结参考模型的激活梯度反馈，优化连续合成输入嵌入用于大模型微调，从而质疑人类可读文本是否为必要条件。在 Llama 和 Qwen 系列模型（1B–32B）上的实验表明，在 LoRA 微调下，DASA 的效果与自然语言数据持平或更优，并且相比 GRADMM 实现了 3.6–4.9 倍的加速。
CopT为大型语言模型引入了一种对比性在线思考框架，首先生成草稿答案，然后通过对比验证和动态思考来提高准确性并减少token消耗。在数学、代码和智能体推理任务上，准确率最高提升23%，token使用量最多降低57%。
ELF提出了一种基于嵌入空间和流匹配的连续扩散语言模型，在更少的采样步骤下性能优于现有的离散和连续扩散语言模型。