标签
LocUS 是一种新型的大语言模型定向激活引导方法，通过将干预限制在特定的注意力头和反嵌入矩阵的子空间中，在保持通用能力的同时提升性能。
PMOPD 提出一种几何感知的多教师在线策略蒸馏方法，通过构建任务子空间记忆并对梯度和优化器更新做投影来缓解能力跷跷板效应，并加入冲突探测与任务循环策略，在 Code/Reason/Math 任务上于 Qwen2.5-7B 和 Llama-3.1-8B 上分别平均提升 2.54 和 2.09 分。