low-rank-distillation

LoRi提出了一种面向隐式思维链推理的低秩蒸馏框架，该框架在共享低秩子空间中对齐教师和学生轨迹，从而提升数学推理基准上的性能。