correlated-failure

标签

Cards List
#correlated-failure

评估整个技术栈,而非单层组件:用于Agent操作的确定性规则与LLM判定层是相互独立地失效吗?

arXiv cs.AI ↗ · 2026-10-08 缓存

本文测试了针对Agent工具调用的多层运行时安全门(确定性规则加上LLM判定器)是否会相互独立地失效。研究发现,规则+判定器两层的组合效果相当于约1.9至2.1层的安全防护,而两个LLM判定器的组合效果仅为约1.2至1.5层,原因是它们的失效存在高度相关性。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈