heterogeneous-data

本文提出了FedTAR，一种针对基于MoE的大型语言模型的任务感知联邦微调方法，该方法通过将本地更新与任务偏好对齐，以在异构数据下保留专家专业化并提高性能。

Setoka是一个基准，用于评估记忆增强的个性化智能体从异构数据中分层理解用户（语义记忆、情景记忆、行为模式、人格特质）的能力，揭示了当前记忆系统在需要跨来源整合和抽象的任务上存在困难。

本文介绍了 FedeKD，这是一种用于联邦知识蒸馏的可靠性感知框架，采用基于能量的门控机制来缓解非同质化设置下的负迁移问题。作者证明，基于样本级信任度对知识传输进行加权，可以在无需公共数据集的情况下提高鲁棒性和预测性能。