Anthropic研究表明AI可在数小时内从安全补丁构建可用的漏洞利用代码,而非数周

Reddit r/ArtificialInteligence 论文

摘要

Anthropic的研究表明,大型语言模型能够迅速从安全补丁中生成可用的漏洞利用代码,将时间从数周缩短至数小时,引发了关于AI驱动漏洞利用的担忧。

https://preview.redd.it/bj4cb914nm6h1.png?width=1376&format=png&auto=webp&s=503dba9ffad477c7e72f000305d9c59e2edb846a Anthropic的安全团队系统性地测量了大型语言模型利用Firefox和Windows已知漏洞的速度。研究表明,一名操作员现在可以在一个下午内将一个月积累的补丁转化为可用的漏洞利用代码,花费仅几千美元,且无需专业知识。研究人员测试了6个Claude模型,针对Firefox中的18个SpiderMonkey补丁。Mythos Preview成功破解了14个漏洞,在大约12小时内生成了8个可用的漏洞利用代码。第一个漏洞利用代码在1小时内准备就绪,比打补丁后的Firefox 148正式发布早了18天。在第二次测试中,模型针对21个Windows内核漏洞。Mythos Preview在不到6小时内发现了18个缺陷,API成本为2200美元,并构建了8个完整的权限提升链,成本为15700美元。相比之下,Windows Autopatch需要7天才能将安全更新部署到90%的设备。来源:[https://the-decoder.com/anthropic-study-shows-ai-needs-hours-not-weeks-to-build-exploits-from-security-patches/](https://the-decoder.com/anthropic-study-shows-ai-needs-hours-not-weeks-to-build-exploits-from-security-patches/)
查看原文

相似文章

Anthropic 新模型一个月内发现超一万个安全漏洞

Reddit r/ArtificialInteligence

Anthropic 的新 AI 模型 Claude Mythos 在一个月内识别出全球系统软件中超过一万个高危和严重安全漏洞,其误报率优于人类测试人员,显著推动了 AI 驱动的网络安全。

AI生成的安全漏洞补丁需要人工审查

Lobsters Hottest

Off-by-1 Labs(1Password)的研究发现,对于复杂且最近披露的漏洞,LLM生成的补丁有53.9%的概率存在缺陷,通常无法解决问题或引入新的漏洞。该研究强调AI生成的补丁需要人工审查,并发布了相关工具、数据集和论文。

Anthropic 发现漏洞的速度快于微软修复的速度

Ars Technica

Anthropic 的 Mythos AI 模型一直在以超出微软修补能力的速度发现微软 SharePoint 及其他软件中的关键和重要漏洞,这引发了紧迫的安全担忧,即对手可能会利用同样的漏洞进行攻击。