auxiliary-losses

本文提出了Prior-Guided Tuning (PGT)和Contrastive Prior Steering (CPS)，利用自然语言先验作为辅助学习信号，提升低资源LLM在AmbiMath、Jigsaw和MNLI/HANS等任务上的训练性能。

该论文挑战了“监督潜变量与视觉目标之间的余弦对齐能提高视觉语言模型准确性”的假设，发现了强烈的负相关。引入了PRISM诊断方法，揭示答案是从潜变量下游解码的，而非潜变量内部，并且辅助损失通过共享参数重塑了语言模型。