Block 如何利用 OpenAI 技术构建 AI 驱动的安全防护

# Block 如何利用 OpenAI 技术构建 AI 驱动的安全防护 来源：https://openai.com/index/block-ai-powered-security/ Block 是 Square、Cash App 和 Afterpay 背后的公司，其安全团队利用 OpenAI Defense Factory，让 AI 以任何人类团队都无法企及的规模处理漏洞发现、检测和响应工作。借助包括 OpenAI Daybreak 在内的 AI 系统，Block 现在只需数小时，就能完成过去需要数周的工作。 > “AI 正在缩短从人类意图到实际行动的时间。曾有一段时间，人们认为攻击者占据优势，因为他们行动更快、更灵活。但随着 Daybreak 等工具的出现以及 OpenAI 工具能力的进步，防御者能够以其人之道还治其人之身，跟上 AI 快速普及的步伐。” —James Nettesheim，Block 首席信息安全官 Block 的安全团队一直致力于在各项工作流程中负责任地采用 AI，无论是代码生成还是安全运营。首席信息安全官 James Nettesheim 表示：“这件事的核心，是拥有一位能与你一起扩展工作能力的新队友。它不像传统的自动化那样，需要你一步一步设定流程。你可以向它提出一个相当特殊、定义模糊的问题，然后一起解决。” 审查软件缺陷或解析日志等项目，过去需要数天甚至数周才能完成。现在，团队只需原来的一小部分时间就能完成这些项目，同时仍由人类验证每一项结果。 例如，在检测规则调优方面，每次调查都会保存原始查询证据，因此团队现在可以在不到一小时内，利用七个月的生产环境遥测数据回放验证一项拟议的检测规则变更。过去，这项工作意味着手动重新查询数百个旧案例，而且由于过于耗时，实际中很少开展。 团队也开始更加讲究不同任务所使用的模型。他说：“我们过去总是使用最新的模型，但现在已经不需要这样做了。学会为不同任务选择不同模型，是一个不断学习的过程。”Block 的安全执行框架建立在 Daybreak 之上，帮助将任务分配给合适的模型，并提供接口，让人类能够接管任务，或让智能体相互验证工作成果。团队持续依据内部基准和实际表现评估这些系统，并在必要时调整方法，包括在负责任的做法要求人工审核时，将工作转交给人类。 自动化分诊系统让工作完成得更快，完成的工作量也更多。Block 安全团队的分诊吞吐量提升了 50%，情报收集和调查工作增加了 50%，还获得了一项全新的自主威胁搜寻能力。Nettesheim 表示：“这相当于每季度完成约 1,100 个分析师工时的调查工作，因为现在每条告警都会得到一次全面、深入的调查，覆盖告警涉及的所有要素。我们的系统处理每条告警时，都会把它当作当天唯一的一条告警。” ## OpenAI Defense Factory 的实际应用 传统扫描工具会孤立地标记单个漏洞，但借助 Daybreak，Block 的安全团队能够进一步深入。模型帮助团队对攻击模式提出假设，并将一系列攻击串联成完整的端到端入侵路径，揭示可能已存在多年的漏洞。 在一个案例中，单看某台笔记本电脑上的告警，似乎只是一个轻微的策略违规问题。但在同伴复核过程中，模型追踪了一个仅在证据中偶然出现的指标，将其与 Block 的身份日志进行关联，进而发现了一组范围大得多的问题。James 表示：“一条常规的终端告警，最终促成了一场攻击活动的瓦解。没有任何单一工具能完成这种关联。只有将两个产品的日志结合起来，才能发现这个信号。” Daybreak 提供帮助的另一个例子，是最近的一次红队演练。模型只获得了有关某个内部系统的少量提示，就在约两小时内串联出一条完整的攻击路径，涵盖 SQL 注入、权限提升、建立立足点、凭据枚举以及横向转移至其他系统。人类红队成员通常需要数天才能完成这项工作。在近期的红队演练中，从提交概括性的漏洞描述到自动生成补丁提案，只用了 18 分钟。 发现漏洞的价值，取决于修复漏洞的能力。Nettesheim 介绍了团队处理每一项发现时采用的流程：定位问题在代码中的位置，确定负责人，然后着手修复。“你提出补丁，确认漏洞是否可被利用，再验证是否已修复问题，同时由人类参与其中，指导整个过程并部署代码变更。” 尽管智能体在技术上具备能力，但它们并不了解组织的背景，也不掌握以往决策背后的考量。人类提供这些背景信息和策略，而他的团队就在这一环节提供人工审核。随着 AI 的判断能力在实践中得到验证，Nettesheim 表示：“我们会逐步提高允许它承担的风险级别，将其用于更敏感的系统。” ## 成果一览 - 在不到一小时内，利用七个月的遥测数据回放验证一项拟议的检测规则变更。 - 在近期红队演练中，从提交概括性的漏洞描述到自动生成补丁提案，只需 18 分钟。 - 每季度释放约 600 个原本用于误报分诊的分析师工时。 - 每季度完成相当于约 1,100 个分析师工时的调查工作。 - 分诊吞吐量提升 50%。 - 情报收集和调查工作增加 50%。 ## 下一步 仅检测和响应工作，就已每季度释放约 600 个原本用于误报分诊的分析师工时。有了这些节省下来的时间，团队现在能够投入更多精力开展深入调查，并负责任地构建更多自动化流程。 随着攻击节奏加快、AI 模型持续进步，Nettesheim 看到了从源头减少漏洞引入的机会。这将让安全团队减少修补漏洞所花费的时间，把更多精力投入预防性和战略性工作。 他说：“OpenAI 正在通过将这些先进能力交到每个人手中，让优势转向防御者。过去，这些能力通常只掌握在顶尖科技公司和政府手中。但现在，每个人，包括关键基础设施、学校和小型企业，都可以开始利用这项技术保护自己的网络。”