transferable-attacks

本文揭示了即使在组成模型安全对齐的情况下，模型合并中存在的越狱风险，并提出了 Basin-Aware Jailbreak (BAJ)，用于在合并模型家族中生成可转移的对抗性后缀。

本文分析了联邦学习系统中对抗攻击的可转移性，并提出了一种基于对抗训练的防御机制以增强模型鲁棒性。

本文介绍了TA-SPA，一个针对多模态大型语言模型的黑盒越狱攻击框架，该框架利用基于文本的语义扰动，实现针对安全对齐的有效且可转移的攻击。

研究受损语言模型中的有害思维链痕迹能否迁移不安全行为，并蒸馏为可复用的越狱攻击。结果发现，有害推理在痕迹和模式两个层面均可迁移，具备推理能力的模型脆弱性高出两倍以上。