model-poisoning

田柯宇（Tian Keyu）投毒记录网站再次更新，详细整理了 2024 年字节跳动前实习生篡改 T5 权重、PyTorch 源码并伪造 VAR 文生图模型成果的训练攻击事件时间线与证据。

本文展示了一个重建的基准，用于分析模型投毒和后门攻击下的联邦聚合方法；结果发现 Trimmed Mean 在干净设置下最准确，Krum 在攻击下最鲁棒，同时审计了指标实现并指出了可复现性方面的注意事项。

本文介绍了Krum-Proxy，一种选择感知的后门攻击，通过优化对抗性更新以模拟良性几何，绕过联邦学习中基于距离的鲁棒聚合方法（如Krum），在保持干净准确率的同时实现高攻击成功率。

微软的新研究表明，AI模型可能被投毒，从而生成看似良性的思维链推理过程，同时暗中输出有害答案，这削弱了将思维链监控作为安全机制的有效性。