private-data

本文提出了一个在私有数据上对大型语言模型进行联邦微调的跨域基准，评估了LoRA、QLoRA和IA3策略在医疗和金融数据集上的表现。结果表明，联邦微调接近集中式训练的性能，并优于孤立学习，证明了在数据无法共享时通过联邦微调适配LLM的可行性。