标签
本文首次对良性多语言微调对LLMs的安全影响进行了全面的实证研究，表明安全结果因语言而异，仅评估英语是不够的。
提出FoLoRA，一种遗忘感知优化框架，用于微调基础模型，通过广义瑞利商优化平衡任务效用和遗忘惩罚，更好地保留非目标能力。
本文介绍了 GLoRA，这是一种面向联邦 LoRA 的规范感知服务器表示，旨在通过估计共识更新子空间来解决因子聚合中的语义不匹配问题。实验表明，在异构客户端场景下，GLoRA 在性能和效率方面均优于基线方法。
该文章推荐了一个视频，系统讲解了塑造当今AI行业的10篇核心论文，涵盖Transformer、LoRA、RAG、Agents及MCP协议，旨在帮助工程师理清技术脉络。