联邦提示学习：统一框架、实证分析与未来方向

# 统一框架、实证分析与未来方向
来源：https://arxiv.org/html/2608.13844

## 联邦提示学习：统一框架、实证分析与未来方向
期刊：CSUR 卷：1111 DOI：xxx (https://doi.org/xxx)  
期刊：JACM 卷：008  
CCS：计算方法学 自然语言处理  
CCS：计算方法学 机器学习  
CCS：安全与隐私 隐私保护协议  
CCS：计算机系统组织 分布式架构

**作者：**  
青林·杨 OrcID：0000-0002-7263-8914 (https://orcid.org/0000-0002-7263-8914) 邮箱：[[email protected]](mailto:[email protected])  
机构：广州大学网络空间先进技术研究院；工业控制系统安全广东省重点实验室；广州大学黄埔研究院，中国广东省广州市  
陈·邱 邮箱：[[email protected]](mailto:[email protected])  
机构：岩手生物技术研究中心，园艺科学系，日本岩手县  
宏远·张 邮箱：[[email protected]](mailto:[email protected])  
机构：南京邮电大学计算机科学与技术学院，中国江苏省南京市  
鹏登·李  
机构：广州大学网络空间先进技术研究院；工业控制系统安全广东省重点实验室；广州大学黄埔研究院，中国广东省广州市  
元·刘（通讯作者）  
机构：广州大学网络空间先进技术研究院；工业控制系统安全广东省重点实验室；广州大学黄埔研究院，中国广东省广州市  
志红·田 邮箱：[pdli, yuanliu, [email protected]](mailto:{pdli, yuanliu, tianzhihong}@gzhu.edu.cn)  
机构：广州大学网络空间先进技术研究院；工业控制系统安全广东省重点实验室；广州大学黄埔研究院，中国广东省广州市  

2026© ACM许可；

###### 摘要

大型语言模型（LLMs）已成为学术界和产业界云端智能服务的核心组成部分，但其训练和部署受到高计算成本、数据集中化和隐私担忧的阻碍。联邦学习（FL）提供了一种去中心化的训练范式，使客户端能够在不共享原始数据的情况下协作训练学习模型，为隐私保护的LLM训练和推理提供了有前景的解决方案。本文对联邦提示学习（FPL）进行了全面综述，旨在回顾将联邦学习范式与大型语言模型相结合的最新进展，并回答以下研究问题：RQ1：FPL的基本动机、特性和使能技术，以及它与传统FL和全模型联邦微调有何不同；RQ2：FPL方法在性能、通信效率、计算开销、可扩展性、个性化和异构性处理方面展现的权衡；RQ3：剩余的安全、隐私、鲁棒性和系统挑战，以及关键的未来研究方向。为此，我们系统地审视了现有FPL方法在全模型生命周期（预训练、微调和实际应用）中的应用，同时讨论了安全、隐私和鲁棒性问题，并总结了现有的防御机制。最后，我们强调了开放挑战和未来方向，旨在帮助读者理解这些见解如何推动FPL领域的研究。

###### 关键词：

大型语言模型，协同学习，提示学习，联邦微调，参数高效微调，安全

## 1. 引言

大型语言模型（LLMs）已成为现代人工智能的基石，在医疗、金融、软件工程和教育等广泛领域中，展现出自然语言理解、推理和生成方面的卓越能力。然而，LLMs的快速规模化暴露了当前主流集中式训练和部署范式的基本局限性。在训练方面，对大规模集中式数据集的依赖引发了严重的隐私和监管问题，而高质量公共数据的日益稀缺以及高得令人望而却步的计算和通信成本，日益制约着模型的进一步扩展。这些挑战促使人们探索用于LLMs开发和适配的新的协作与隐私保护学习范式。

联邦学习（FL）已成为一种有前景的去中心化框架，使多个数据所有者能够在不共享原始数据的情况下协作训练机器学习模型。当联邦学习与LLMs相遇时，与传统FL模式相比，它带来了一些不同的挑战。（i）FL对LLMs的独特重要性在于对多源异构数据的更强烈需求。（ii）传统的LLMs通常依赖集中式训练，即在预训练或微调之前将大量数据聚合到一个统一平台上。然而，在现实场景中，许多高价值数据无法集中，例如企业内部文档、医疗数据、财务数据、法律数据、个人设备数据和跨机构业务数据。（iii）在模型架构方面，FL推动LLMs从单一的统一模型向共享能力与个性化能力共存的结构演进。

因此，将LLMs与FL整合面临比传统深度学习更大的技术挑战。LLMs通常具有巨大的参数规模，往往达到数十亿甚至数千亿参数，比传统深度学习模型（例如GoogLeNet、AlexNet、VGG和ResNet）高出数个数量级。如果直接传输全模型参数，通信成本和存储压力将变得极高。因此，核心问题不再仅仅是如何聚合来自多个客户端的模型，而是如何在极大的模型规模下只传输和更新最关键、最精简且最有效的参数。

为此，提示学习和参数高效微调（PEFT）作为全模型微调的轻量级替代方案，受到了广泛关注。通过冻结预训练基础模型的骨干网络，并仅优化少量任务特定参数——例如软提示、前缀或低秩适配器（LoRA）——可以在保持大型模型泛化能力的同时，大幅降低训练成本。重要的是，基于提示的更新具有紧凑性和模块化特性，使其天然适合联邦环境。这一观察引出了一种新范式——联邦提示学习（FPL），它利用提示学习作为LLMs与联邦优化之间的主要接口。

联邦提示学习从根本上重塑了LLMs在分布式环境中的训练、适配和部署方式。客户端不再联合整个模型或大部分参数，而是在一个共享的冻结基础模型之上协作优化轻量级的提示或适配器模块。这种设计显著降低了通信成本，缓解了客户端资源限制，并增强了对非独立同分布（non-IID）数据的鲁棒性，同时保持了强大的隐私保障。因此，联邦提示学习已从早期的概念验证研究迅速发展成为一个涵盖基于提示的微调、个性化、分割与脱机架构、多模态学习和实际应用的丰富方法生态系统。

**工作流程对比。** 传统联邦学习训练本地模型并将模型更新发送到参数服务器。联邦提示学习保持基础模型固定，仅在私有客户端数据上训练小型提示适配器，并聚合提示更新以改进全局模型。  
**图 1.** 传统联邦学习与联邦提示学习的区别。工作流程对比。传统联邦学习训练本地模型并将模型更新发送到参数服务器。联邦提示学习保持基础模型固定，仅在私有客户端数据上训练小型提示适配器，并聚合提示更新以改进全局模型。

### 1.1. 动机与贡献

尽管取得了快速进展，现有文献仍然较为分散。先前的综述主要聚焦于通用联邦学习、LLMs的联邦微调，或LLMs的安全与隐私。尽管该领域发展迅猛，其文献仍分散在机器学习、分布式系统、云边计算、多模态学习和网络安全等多个领域。现有综述通常独立地考察通用联邦LLM架构、联邦微调、面向物联网的部署或LLMs安全。基于提示和适配器的方法常被视为辅助实现技术，而非一种独特的分布式优化和服务交付范式。此外，先前的综述很少将完整的模型服务生命周期（包括训练、个性化、推理、部署、应用和保护）联系起来，也很少系统地比较方法在计算开销、通信成本、可扩展性、可靠性和隐私方面的表现。

目前仍然缺乏一种以联邦提示学习作为独特范式为中心、审视其在整个LLM生命周期中的作用、并综合算法、系统、应用和安全视角见解的系统性统一研究。没有这种全面的视角，研究人员和实践者将难以理解这一新兴领域中的设计权衡、识别开放挑战并导航未来研究方向。为弥补这一空白，本文对面向LLMs的联邦提示学习进行全面综述，从算法和云系统的角度对联邦提示学习进行统一、面向生命周期的理解。我们根据其技术机制和部署角色组织现有方法，并审视基于提示的适配如何与云协调、异构边缘资源、分布式推理、多模态应用和对抗环境相互作用。特别关注性能、通信效率、客户端计算与内存、可扩展性、个性化、隐私、鲁棒性和实际可部署性。全面回答以下研究问题（RQs）至关重要：

1. (1) RQ1：联邦提示学习的基本动机、特性和使能技术是什么，它与传统联邦学习和全模型联邦微调有何不同？
2. (2) RQ2：联邦提示学习方法在性能、通信效率、计算开销、可扩展性、个性化和异构性处理方面展现了哪些权衡？
3. (3) RQ3：哪些安全、隐私、鲁棒性和系统挑战仍然存在，哪些未来研究方向最为重要？

我们的贡献总结如下：

- • 本综述的核心贡献在于对代表性联邦提示学习模型和框架的实验验证，通过这些验证，我们得出了关键的实证发现和实践见解。这些结果旨在为研究人员在这一新兴领域的研究提供指导和启发。
- • 我们分析了当提示学习与联邦优化结合时产生的安全、隐私和鲁棒性挑战，并总结了针对联邦LLMs的现有攻击模型和防御机制。
- • 我们提炼了当前研究的关键经验，概述了开放挑战和有前景的未来方向，以指导联邦提示学习的后续研究。

通过本综述，我们旨在为寻求理解提示学习如何有效连接大型语言模型与联邦学习的研究人员和实践者提供结构化的连贯参考，以实现基础模型时代可扩展、高效且隐私保护的协作。

### 1.2. 方法

本综述结合了系统性文献综述和基于分类法的比较分析。使用与联邦学习和提示学习相关的预定搜索词，从“Web of Science”、“Google Scholar”和“dblp”等数据库中检索相关研究。根据出版周期、文献类型、研究相关性和方法完整性，应用了明确的纳入和排除标准。在去除重复、筛选标题和摘要以及全文评估后，保留了52项高质量研究用于后续分析。然后，对选定的研究在研究目标、核心方法、模型架构、数据集、评估指标、实证结果和报告的局限性方面进行系统编码。基于其底层技术机制，将所审查的方法组织成结构化分类法，并在性能、效率、通信成本、计算开销、隐私保护、可扩展性和应用场景方面进行比较。最后，综述综合了主要进展、未解决的挑战和未来研究的潜在方向。

## 2. 相关工作与背景

### 2.1. 相关工作

最近的研究越来越关注LLMs与FL的整合，以应对数据稀缺、隐私保护、通信成本以及集中式模型训练的高昂成本等日益严峻的挑战。Nikolaou等人建立了解码器专用Transformer语言模型的基本理论属性，证明它们几乎是单射的，因此对于输入提示是精确可逆的。与认为非线性、归一化和注意力机制不可避免地导致信息损失的普遍直觉相反，作者证明在标准架构、连续参数初始化和基于有限步梯度的训练下，不同的输入提示以概率1映射到不同的隐藏表示。利用实分析工具，他们证明碰撞只能发生在测度为零的参数集上，并且常见的训练过程无法达到这种病态配置。除了理论，Nikolaou等人还引入了SIPIT，这是第一个可证明正确且高效的算法，利用Transformer的因果结构，以线性时间从内部隐藏状态中重建精确的输入提示。

Cheng等人提供了联邦大型语言模型（FedLLMs）的全面、结构化概述，阐明了联邦学习与LLMs交叉领域的动机、方法和未来方向。他们强调FedLLMs是解决LLMs根本挑战（包括高质量公共数据耗尽、严格隐私要求、持续模型更新以及高昂计算和通信成本）的有前景的范式。通过系统地回顾整个FedLLM生命周期，从预训练和微调到部署和应用，该论文对现有方法进行了分类，如参数高效微调、基于提示和分割学习方法、个性化联邦LLM以及无反向传播技术，并分析了它们的性能权衡。