差距不在于AI安全工具不好,而在于两个好工具无法就发现达成一致
摘要
这篇文章强调,独立AI安全扫描器对相同的行为漏洞命名不同,造成追踪和审计开销。文章介绍了AVE,一个针对自主智能体AI漏洞类别的开放源码稳定ID分类法,并指出一个独立开发者的扫描器发现结果收敛到了相同的ID。
与我上次的帖子角度不同,这篇更少涉及哲学层面的转变,更多是关于一个具体、听起来有点枯燥、但实际中却至关重要的问题。两个独立的安全扫描器检查同一个 MCP 服务器时,都能正确标记同一个根本问题,却给它起了两个完全不同的名字。两个工具都没错。只是没有任何东西在推动独立团队在发现一种行为模式后,就如何称呼它达成一致。一旦你在流水线中运行多个工具——而大多数严肃的配置都会这样——这就从一件趣事变成了真实的负担:你无法一致地追踪一个发现,无法向审计人员说明两条警报是同一个问题,也无法建立一份不会重复计数的风险登记册。传统软件几十年前就解决了这个问题,现在已经没人再想了。一个 SQL 注入会获得一个 CVE ID,映射到一个 CWE 类别,之后每个发现它的工具都引用同一个东西。Agentic AI 组件从来没有过这种机制,不是因为没人想到过,而是因为 CVE 锚定在包和版本上,CWE 描述的是代码中的弱点,而这两者都没有为一种既不绑定包也不绑定代码的行为模式留出位置。我们构建 AVE 就是为了补上这个缺失的层面:为不同的行为漏洞类别提供稳定的 ID,目前已有 70 条记录,严重性评分使用 OWASP 自家的 AIVSS 框架,而不是为此另造一套。真正让我相信它在我自己的头脑之外也站得住脚的是:一位独立开发者构建了一个完全不相关的静态配置审计器,主动将自己的发现与这套分类法进行交叉对照,然后在同一批文件上直接与参考扫描器进行测试。两个工具之间完全没有共享代码。大多数重叠的发现都自发地收敛到了同一个 ID。这比我们任何一方自己为这个项目写的东西都更有说服力。如有需要,请访问 github.com/aveproject/ave。我也很好奇,命名碎片化这个问题,是否也有人在这里实际遇到过——无论在这个领域还是其他地方,在跑多个工具的时候。
相似文章
前几天意识到:“AI读取你的指令”和“AI读取攻击者的指令”在它看来是一样的
一位安全研究员讨论了LLM代理如何无法区分用户指令与文档中的文本,并介绍了AVE——一个用于命名AI代理漏洞的开放标准,该标准与OWASP和MITRE框架相互参照。
ClawHub安全信号:当VirusTotal、静态分析与SkillSpector存在分歧时
本文研究AI智能体技能的安全扫描器分歧,发现VirusTotal、静态分析和NVIDIA SkillSpector标记不同的技能,且重叠极少。它发布了一个超过67,000个技能版本的脱敏数据集,以支持分层安全治理的进一步研究。
AI与黑客——坏事吗?
一场讨论,质疑AI发现软件漏洞的能力究竟是问题还是机遇,让Google和Microsoft等公司能够主动修复漏洞。
AI研究工具仍过于热衷将公开信号转化为确定性
作者批评AI研究工具对微弱信号过于自信,赞扬Komo AI的快速发现和附带来源的摘要,但强调需要更好地处理不确定性和矛盾。他们描述了一种工作流程,将发现、验证和结构化检查分散到多个AI工具中。
AI正在打破两种漏洞文化
AI正在颠覆传统的漏洞披露文化(协调披露 vs 漏洞就是漏洞),通过加速安全缺陷的检测和利用,使长期禁运效果降低,并迫使需要更快、AI辅助的响应。