标签
提出FedCMM，一个面向多模态大模型的联邦持续学习框架，利用模态感知的弹性权重巩固、本地生成式回放以及任务相似性感知的梯度聚合来缓解灾难性遗忘。
本文针对顺序训练的早退出神经网络中的灾难性遗忘问题，提出了两种分别基于弹性权重巩固（Elastic Weight Consolidation）和无遗忘学习（Learning without Forgetting）的方法，旨在在添加新退出点的同时保留早期退出点的性能。