标签
The Turing Post 的一条推文,推荐亚历山大·荣格(Alexander Jung)的著作《Machine Learning: The Basics》,称其是一本紧凑的复习指南,涵盖数据–模型–损失框架,包括假设空间、模型选择、经验风险最小化(ERM)、正则化、概率模型、聚类、联邦学习、隐私与可解释性。
该arXiv论文提出了用于联邦多智能体系统的协作控制算法,其中包含AI智能体与评审者,应用于网络遥测中的故障检测与原因分析,并通过多时间尺度随机逼近提供收敛性保证。
Presents DG-FedReuse, a federated learning mechanism that reuses age-decayed cached client updates under a proxy-gradient threshold to reduce uplink communication, achieving significant modeled savings with minimal accuracy loss on image classification benchmarks.
本文针对良性及对抗性客户端异质性下的航空发动机剩余使用寿命预测,对联邦学习进行了受控研究,评估了个性化和拜占庭鲁棒聚合方法。研究发现,共享表示个性化缩小了本地与集中式准确率之间的绝大部分差距;使用Krum的鲁棒聚合能有效缓解后门攻击;将两者结合可形成组合防御,在攻击成功率较低的同时,仅付出较小的准确率代价。
这篇arXiv论文评估了在来自三个医疗系统的ICU EHR数据上,对令牌化生成式事件模型(GEMs)进行联邦训练的效果,结果表明联邦学习能够保留集中式训练的大部分性能,并且与传统监督模型相比,提高了跨站点的可迁移性。
提出FedTCR,这是首个系统的联邦多模态图学习算法,通过拓扑感知的跨模态路由和三水平对比学习来处理任务、模态和拓扑异质性,在7个领域上优于基线方法。
This paper proposes FedSLM, a parameter-centric framework for federated fine-tuning of foundation models with heterogeneous compressed clients, using SVD-based decomposition and a weak-to-strong elicitation step to handle resource asymmetry. Experiments show it outperforms existing federated baselines while reducing client GPU memory by ~50%.
本文研究了联邦预训练模型的评估协议,表明下游微调并不能可靠地保持预训练质量排名,而直接的下一个词元预测与预训练困惑度高度一致。
The paper proposes MMFGU, a multimodal federated graph unlearning framework that decouples target-specific representations to handle entity, modality, and pairing removal requests while preserving retained utility, achieving a 41.5x speedup over full retraining.
This paper proposes F2CTO, the first distributed first-order constrained trilevel optimization method for robust coreset selection over distributed networks, with a non-asymptotic convergence guarantee of O(ε^(-3/2)).
FedWeave针对联邦MoE-LoRA提出非对称聚合方法,通过分离专家聚合与路由器优化来处理任务异构性,从而实现更好的专精化与性能。
本文首次系统研究了基于SpeechLLM的端到端ASR系统的联邦训练,在英语和意大利语任务上进行了评估,在降低通信成本的同时取得了具有竞争力的词错误率。
DP-FedSOFIM 将曲率估计移至差分隐私联邦学习中的服务器端,在 O(d) 客户端内存下实现与 DP-FedGD 相同的隐私保证,并在早期轮次获得显著的准确率提升。
本文提出了一种用于联邦学习的平均场隐私博弈框架,能够对任意数量且具有异构隐私偏好的客户端进行可处理的纳什均衡分析,并实现个性化隐私保证。
本文提出OrchNAS,一种能量感知的个性化联邦边缘智能框架,该框架利用神经架构搜索服务自动为异构边缘环境设计服务自适应模型,解决能量约束和统计异质性问题。
QFedPolyp 提出了一种用于息肉分割的联邦学习框架,该框架利用量化感知训练来降低通信成本并实现更快的推理,同时保护隐私。
本文提出Monotone FedNAM,一种物理约束的联邦加性模型,确保O-RAN中每个切片的SLA风险预测遵循无线物理规律(单调性),无需汇聚商业敏感的KPI数据,在保持高形状一致性的同时将上行流量减少65%。
福布斯文章解释了分割学习,这是一种使AI模型能够在敏感数据上训练而不暴露原始数据的技术,提高了隐私合规性并降低了通信成本。
提出了一种解析联邦学习框架,仅需一轮或两轮通信即可完成任务异构下的多标签医学图像分类,在ChestXray14数据集上以高达18.44的BACC和13.24的AUC分数优于现有方法。
本文介绍了FLITE(联邦低秩迭代训练引擎),一种联邦微调方法,通过使用冻结的仿射映射网络,从一个小型可训练潜变量和低秩可种子重生的因子分解生成权重,将每轮每客户端的通信量降至每轮1280个浮点数(约5KB)——相比于全权重FedAvg减少了8718倍。在CIFAR-100数据集上使用ResNet-18进行测试,准确率与全权重FedAvg相差在0.5个百分点以内。