标签
本文表明,在拆分学习中,位于拆分边界的观察者可以从激活值和梯度中重建客户端的大部分文本——在 GPT-2 上,仅凭激活值即可重建 94.20% 的 token,加入梯度后升至 97.38%;而文档级重建率则从 13.71% 跃升至 37.77%。文章主张泄漏应同时按 token 和按文档进行报告,并认为拆分模型传输的流量应获得与原始文本同等的敏感度对待。
福布斯文章解释了分割学习,这是一种使AI模型能够在敏感数据上训练而不暴露原始数据的技术,提高了隐私合规性并降低了通信成本。
QSplitFL提出了一种基于DQN的框架,用于在分割联邦学习中选择最优分割点,利用客户端硬件指标适应异构设备。实验表明,在多个数据集和架构上,该方法提高了收敛速度和准确率。