标签
该论文提出 SCOPED(技能解耦的同策略专家蒸馏),通过训练能力专属专家并以奖励引导反思提取技能,在在线蒸馏中将程序性知识内化到统一的视觉-语言模型中,从而避免跨能力梯度干扰,并在八个多模态基准上超越骨干模型和混合能力强化学习。
该论文引入了连续音频思考(CoAT)框架,为大型音频语言模型配备了一个连续的潜在工作空间,用于在生成文本响应之前组织声学信息,从而在音频推理、理解和转录任务中提升性能,且不增加额外的解码成本。