标签
该论文提出 SAGA 方法,将任务边界处训练的稀疏自编码器转换为对表示漂移的低秩局部约束,以缓解持续学习中的灾难性遗忘,并在三个 ViT-B/16 基准上取得最佳的 Class-IL 准确率与最低遗忘率。
这篇来自纽约大学(NYU)与西安交通大学的研究论文表明,早期的表征漂移会形成一个低维的“支架”子空间,网络在学习后续任务时会优先复用这一子空间,说明早期经验会在神经网络适应过程中留下持久的几何印记。