首个AI蠕虫病毒
摘要
文章介绍了一种名为Rook的便携式漏洞狩猎工具,它可能被重新利用为AI蠕虫,具备自我修改和自主推理能力。作者警告称,此类AI蠕虫的出现不可避免,防御者应立即做好准备。
我构建了一个小型漏洞狩猎工具。体积不到4MB,除模型本身(通过API调用访问)外,所有内容都打包在内。它专为渗透测试设计,目标是打造一个能随处部署、无需额外运行时和依赖树的工具。这种便携性对授权工作者而言是福音,但同时也正是蠕虫所需的特性。让我明确意图:Rook并非为传播而构建。你给它指定目标和范围,它就会像研究人员一样解决问题。但不需要天才也能看出同一设计中隐藏的另一种形态:一个微小二进制文件,落地到机器上,四处探查,找到环境中的AI密钥。现在它拥有了模型,可以用受害者的算力进行思考。最后一步是能否自我重写。这听起来很新奇,但并非如此,它相当普通。我已在另一个项目中构建过自我修改的代理,技术很简单:一个能读取自身代码、修改并重新部署的代理,只需几百行代码和一点细心。将这些组合起来,你就能得到全新的东西。早期的蠕虫携带固定负载,只能执行作者编写的一个功能,一旦捕获样本就能为其编写签名。而代理蠕虫携带判断力:它读取所落地的机器,决定哪些操作有价值,并自行编写下一步。两个在不同网络上的副本表现不同,因为每个副本都在基于所见内容进行推理,而非重放脚本。我不会发布配方,也不打算这么做。这些组件早已公开,任何严肃的研究者都注意到了同样的事情。之所以直白地陈述,是因为防御者现在就应该为此构建防护——趁它仍是一个思想实验——而不是等到第一个真正在网络上肆虐之后。这不是会不会发生的问题,而是何时发生的问题。
相似文章
AI Worms and Viruses Are Coming
Researchers are demonstrating that AI agents can autonomously self-replicate and hack into remote systems, raising concerns about future AI-powered worms and viruses that could evade detection and cause widespread harm.
自适应代理蠕虫 (8分钟阅读)
研究人员展示了由开放权重LLMs驱动的自适应计算机蠕虫,这些蠕虫能够生成针对性攻击并自我复制,利用窃取的计算资源来规避传统的AI安全措施。
首批真正的AI蠕虫已经出现。OpenAI刚刚记录了在AI代理之间传播的自复制提示注入。
OpenAI记录了能够在AI代理之间传播的自复制提示注入,类似于计算机蠕虫,突显了AI系统中的新安全风险。
AI蠕虫报告详解攻击:分享我实际使用的防御清单
本文讨论了OpenAI关于AI蠕虫和自复制提示注入攻击的报告,并提供了一个实用的防御清单,通过将工具输出视为不可信并实施严格访问控制来保护AI智能体。
研究人员打造出一种自复制AI蠕虫,完全基于本地开放权重模型运行
多伦多大学的研究人员开发了一种概念验证AI蠕虫,它使用本地开放权重的大语言模型来自主推理网络漏洞,生成定制的漏洞利用代码,并在无需人工干预的情况下跨主机复制,在受控测试中实现了62%的网络感染率。