标签
本实用指南提供了一套用于评估AI智能体系统安全性的方法论，概述了攻击类别、控制措施，并专注于现实世界中的安全事件，如数据泄露或系统操纵。
本文提出了SEAV，一种以验证为中心的框架，用于评估大型语言模型的越狱鲁棒性，通过评估响应的有效性和正确性，显著降低了安全评估中的假阳性率。
本文利用 AI-Infra-Guard 对 DeepSeek Harness 中的间接提示注入风险进行受控测试评估，发现显著的攻击成功率，并提出安全控制建议。