标签
这篇 arXiv 论文提出了目标更新对齐合成数据(Desired-Update-Aligned Synthetic Data,DASA)方法。该方法利用冻结参考模型的激活梯度反馈,优化连续合成输入嵌入用于大模型微调,从而质疑人类可读文本是否为必要条件。在 Llama 和 Qwen 系列模型(1B–32B)上的实验表明,在 LoRA 微调下,DASA 的效果与自然语言数据持平或更优,并且相比 GRADMM 实现了 3.6–4.9 倍的加速。
本文介绍了一种基于梯度的语音到文本对齐方法,适用于任何可微分的ASR模型,包括CTC、transducer、基于注意力的编码器-解码器以及语音大语言模型,无需训练或模型修改。
提出基于梯度的连接(GBC)方法,将多智能体LLM系统建模为计算图,并利用梯度信号将错误归因到特定智能体,从而更好地进行系统级优化。