标签
提出FedTCR,这是首个系统的联邦多模态图学习算法,通过拓扑感知的跨模态路由和三水平对比学习来处理任务、模态和拓扑异质性,在7个领域上优于基线方法。
This paper proposes FedSLM, a parameter-centric framework for federated fine-tuning of foundation models with heterogeneous compressed clients, using SVD-based decomposition and a weak-to-strong elicitation step to handle resource asymmetry. Experiments show it outperforms existing federated baselines while reducing client GPU memory by ~50%.
本文研究了联邦预训练模型的评估协议,表明下游微调并不能可靠地保持预训练质量排名,而直接的下一个词元预测与预训练困惑度高度一致。
The paper proposes MMFGU, a multimodal federated graph unlearning framework that decouples target-specific representations to handle entity, modality, and pairing removal requests while preserving retained utility, achieving a 41.5x speedup over full retraining.
This paper proposes F2CTO, the first distributed first-order constrained trilevel optimization method for robust coreset selection over distributed networks, with a non-asymptotic convergence guarantee of O(ε^(-3/2)).
FedWeave针对联邦MoE-LoRA提出非对称聚合方法,通过分离专家聚合与路由器优化来处理任务异构性,从而实现更好的专精化与性能。
本文首次系统研究了基于SpeechLLM的端到端ASR系统的联邦训练,在英语和意大利语任务上进行了评估,在降低通信成本的同时取得了具有竞争力的词错误率。
DP-FedSOFIM 将曲率估计移至差分隐私联邦学习中的服务器端,在 O(d) 客户端内存下实现与 DP-FedGD 相同的隐私保证,并在早期轮次获得显著的准确率提升。
本文提出了一种用于联邦学习的平均场隐私博弈框架,能够对任意数量且具有异构隐私偏好的客户端进行可处理的纳什均衡分析,并实现个性化隐私保证。
本文提出OrchNAS,一种能量感知的个性化联邦边缘智能框架,该框架利用神经架构搜索服务自动为异构边缘环境设计服务自适应模型,解决能量约束和统计异质性问题。
QFedPolyp 提出了一种用于息肉分割的联邦学习框架,该框架利用量化感知训练来降低通信成本并实现更快的推理,同时保护隐私。
本文提出Monotone FedNAM,一种物理约束的联邦加性模型,确保O-RAN中每个切片的SLA风险预测遵循无线物理规律(单调性),无需汇聚商业敏感的KPI数据,在保持高形状一致性的同时将上行流量减少65%。
福布斯文章解释了分割学习,这是一种使AI模型能够在敏感数据上训练而不暴露原始数据的技术,提高了隐私合规性并降低了通信成本。
提出了一种解析联邦学习框架,仅需一轮或两轮通信即可完成任务异构下的多标签医学图像分类,在ChestXray14数据集上以高达18.44的BACC和13.24的AUC分数优于现有方法。
本文介绍了FLITE(联邦低秩迭代训练引擎),一种联邦微调方法,通过使用冻结的仿射映射网络,从一个小型可训练潜变量和低秩可种子重生的因子分解生成权重,将每轮每客户端的通信量降至每轮1280个浮点数(约5KB)——相比于全权重FedAvg减少了8718倍。在CIFAR-100数据集上使用ResNet-18进行测试,准确率与全权重FedAvg相差在0.5个百分点以内。
FedCC 提出了一种联邦学习框架,结合冻结的 DINOv2 骨干网络、轻量级 YOLO 检测头和 LoRA 模块,用于胎儿超声图像中稳健的胼胝体定位,在多中心设置下以大幅降低的通信成本实现了强劲性能。
一个联邦学习研究项目揭示,全局准确率可能掩盖网络入侵检测中少数攻击类别的灾难性失败,表明每个客户端的性能及聚合方法的选择对于罕见攻击检测至关重要。
提出 DiLoCo,一种分布式优化算法,能够在弱连接设备上训练大型语言模型,通信量减少500倍,同时达到与全同步训练相当的性能。
HantaWatch 是一个用于汉坦病毒基因组监测的联邦学习框架,能够在不共享原始数据的情况下协作训练基于序列的模型,集成了k-mer特征提取和自适应优化,以支持风险筛查和专家优先排序。
提出了FedGAMMA,一种联邦多模态图基础学习框架,通过两阶段预训练和基于提示的微调,对齐多模态属性和图拓扑,在多个数据集上取得了显著提升。