ai-robustness

该论文通过系统文献综述与128位从业者评估，提出并验证了AI鲁棒性审计框架的44项元需求（分为16个类别），以帮助组织构建和评估AI鲁棒性审计框架。

本文提出了Groundhog Bit-Flip Attack (GBFA)，一种针对Mixture-of-Experts (MoE) 大语言模型的拒绝钱包可用性攻击，该攻击通过比特翻转停用与终止相关的专家模型，导致无限生成循环。

该研究揭示了大语言模型在机器遗忘方面的显著差距，表明对抗性评估能够揭示遗忘信息的可恢复性，即使在使用强标准指标的情况下，凸显了对抗性压力测试的必要性。

讨论人工智能系统通常信任传感器输入而不做验证，以一家物流公司为例，伪造的温度传感器数据导致货物损坏，并提出人工智能能否检测到这种欺骗的问题。

本文介绍了 FragileFlow，这是一种插件式正则化器，通过频谱分析和 PAC-Bayes 界来控制“正确但脆弱”的预测，从而提高 LLM 和 VLM 的鲁棒性。

本文介绍了 PASA，这是一种针对大语言模型（LLM）生成文本的鲁棒性水印算法，它在语义层面利用潜在嵌入空间运作，以抵抗诸如改写（paraphrasing）之类的语义不变攻击。

本文解释了将香农熵纳入强化学习目标函数，如何创造出更稳健的智能体，使其能够应对奖励和动态环境中出现的意外甚至对抗性变化。