标签
一个纵深防御评估框架，联合研究了内部激活引导与外部记忆门防御机制，以应对大语言模型中的记忆诱导型谄媚现象。研究发现，选择性路由器记忆门过滤比完全移除记忆更能保持模型准确性，而反向激活引导并未带来统计显著的额外收益。
本文测试了针对Agent工具调用的多层运行时安全门（确定性规则加上LLM判定器）是否会相互独立地失效。研究发现，规则+判定器两层的组合效果相当于约1.9至2.1层的安全防护，而两个LLM判定器的组合效果仅为约1.2至1.5层，原因是它们的失效存在高度相关性。
Dario Amodei 建议AI安全应采用多层瑞士奶酪式的不完美防御，以防止灾难性失败。
本文通过一个SQL注入场景，解释了将数据库作为API身份验证唯一可信源的危险，并介绍了Sturdy Statistics采用的防御深度方法：使用HMAC-SHA512与加密胡椒。