spectral-clipping

本文研究了LoRA中的奇异分量，并提出SCLoRA，一种使用光谱裁剪来提高任务自适应能力同时减少预训练知识灾难性遗忘的方法。