AI时代正在引发漏洞狩猎的军备竞赛

# AI 时代催生漏洞狩猎军备竞赛 来源：https://www.wired.com/story/the-ai-era-is-creating-a-bug-hunting-arms-race/ 十年前，通过奖励计划来鼓励研究人员提交软件漏洞发现的模式才刚刚开始成为主流。漏洞披露和“漏洞赏金”计划代表了一种酝酿多年的范式转变——机构从对安全研究发现的敌意和防御态度，转向承认接收意见并发布修复补丁是必要的。当苹果最终在 2016 年宣布漏洞赏金计划时，最高奖励是 20 万美元。这个数字在 2019 年升至 100 万美元，并在去年达到 200 万美元。但所有这些都即将再次改变。 随着自主 AI 模型在自主识别软件漏洞以及开发漏洞利用代码方面变得愈发熟练——换句话说，就是识别弱点并创建黑客工具——漏洞披露计划正被淹没，而组织自身发现的漏洞也比以往任何时候都多。这种充裕正在改变漏洞赏金的经济学，对于征集漏洞提交的机构和研究人员的双方均是如此，其中一些研究人员目前以漏洞狩猎为生或以此补贴收入。而且，关键的是，对于攻击者而言，这个领域也在同步变化。 “与去年同期相比，我提交的漏洞数量可能增加了三倍——我猜像谷歌这样的公司今年在漏洞奖励上的支出将是去年的两到十倍，”独立安全研究员约瑟夫·萨克（Joseph Thacker）说，他开发了在自身漏洞狩猎中使用 AI 的方法和工具。 他补充说，科技巨头“可以承受这种压力，但大多数公司做不到。目前人们正在提交一些相对容易发现的漏洞——AI 代理正在发现真正的好漏洞。但明年提交的漏洞将会减少，因为很多漏洞已经被发现了，我认为一些公司会再次提高奖励金额。” 萨克和其他研究人员坦率承认，没有人确切知道这种供需动态长期会如何演变。而且，取决于 AI 漏洞发现和自动化系统扫描对攻击者的有效程度，开发人员可能会感到更紧迫的压力来迅速发布补丁——这可能会加速像 90 天披露截止日期（从发现漏洞到公开披露之间设定的窗口，通常促使补丁发布）这样长期以来来之不易的标准。 正如安全研究员 Himanshu Anand 本月早些时候所写的那样：“90 天负责任披露窗口是为一个漏洞发现者稀少、漏洞利用开发缓慢的世界而构建的。那个世界已经消失了。大语言模型压缩了这两个时间线。” 关键是，攻击者迫使的责任制也可能激励组织更快速地在其系统中部署漏洞修复。补丁泛滥一直是一个至关重要但又复杂的安全挑战，因为如果没有适当的测试，大规模安装新软件可能会产生意想不到的后果，包括最坏情况的中断。 由 AI 促成的现实世界攻击的紧迫性似乎正在增长，无论是老练的还是不太熟练的攻击者都在寻求扩展能力和降低成本。例如，在本月早些时候发布的研究结果中，谷歌研究人员表示，他们观察到“知名的网络犯罪威胁行为者”（他们拒绝透露具体身份）试图利用一个零日漏洞——即此前未知的漏洞——他们使用 AI 工具开发该漏洞以绕过开源系统管理平台上的双因素认证。谷歌迅速通知了开发者，他们为该漏洞发布了修复。但研究人员表示，该事件是漏洞狩猎格局变化的关键例证。 “我们都认为这已经在发生了，而这是第一个证据表明它确实在发生，”谷歌威胁情报团队首席分析师约翰·赫尔特奎斯特（John Hultquist）谈到攻击者使用 AI 发现新漏洞并创建漏洞利用时表示。 “国家行为体问题非常严重且真实，但组织处理的绝大多数事件仍然是犯罪行为人造成的，其中许多事件相当严重，”赫尔特奎斯特补充道。“零日漏洞被犯罪行为人的使用一直相当有限，而那些使用零日漏洞的往往非常成功，所以我认为我们不应低估更多犯罪分子掌握零日漏洞的影响。” 然而，对于通过漏洞狩猎赚钱的研究人员来说，时代正在改变。命令行工具 Curl 在收到大量由 AI 生成的低质量提交后，于 1 月份终止了其漏洞赏金计划（通过第三方服务 HackerOne 运行）。 “我们经过艰难的方式得出结论，漏洞赏金给人们提供了过强的动机，以恶意方式‘发现’和捏造‘问题’，导致过载和滥用，”该组织当时写道，并补充说“我们仍然欣赏和重视有效的漏洞报告。” 上周，Linux 创始人兼首席开发者 Linus Torvalds 写道，著名的 Linux 安全邮件列表已经变得“几乎完全无法管理”，因为数量庞大且存在重复的 AI 漏洞报告。 不过，4 月份，Curl 创始人兼首席开发者 Daniel Stenberg 在 LinkedIn 上发帖称，提交的质量有所提高。“在过去的几个月里，我们不再收到 Curl 项目中的 AI 垃圾安全报告，”他写道。“相反，我们收到了越来越多真正高质量的安全报告，几乎都是借助 AI 完成的。它们以前所未有的频率提交，给我们带来了沉重负担。” 4 月底，谷歌宣布正在彻底改革其 Chrome 和 Android 的漏洞奖励计划，降低某些类别漏洞的奖励金额，同时提高其他类别的奖励。 “随着安全研究格局因 AI 而演变，我们正在对我们的计划做出调整，以确保我们奖励的是产品中最具挑战性和最具影响力的漏洞，”该公司写道。 “我认为拥有特殊技能的 90 分位漏洞猎手将始终能够有所发现并从大公司拿到奖励，”Jonathan Dunn 说，他是一名心脏病专家，也是一名漏洞赏金猎人。“但即使有了 AI，我们仍然需要大力激励道德研究人员在公共基础设施和其他关键系统上发现问题，否则这些系统可能无法得到防御者足够的关注。” 目前，大多数组织似乎准备用他们能想到的一切解决方案来应对加速漏洞发现带来的问题和好处。“这正在改变漏洞狩猎行业的动态，但它绝对仍然需要人类时间，”云安全公司 Edera 的首席技术官 Alex Zenla 表示。 本月早些时候，Anthropic 在 HackerOne 上启动了一个漏洞赏金计划，让研究人员提交关于该公司自身系统和 Claude AI 模型的发现。然而，越来越多的研究人员认为，要应对加速的漏洞发现，结构性防御是必要的。换句话说，他们正在为不同类别的漏洞设计数字解决方案，以消灭这些漏洞或使其在实际中显著难以利用。 “你无法通过打补丁来解决这个问题，”资深安全工程师兼研究员 Niels Provos 说。“你需要构建能够让尽可能多的漏洞变得无关的基础设施。”