首个AI蠕虫病毒

Reddit r/AI_Agents 新闻

摘要

文章介绍了一种名为Rook的便携式漏洞狩猎工具,它可能被重新利用为AI蠕虫,具备自我修改和自主推理能力。作者警告称,此类AI蠕虫的出现不可避免,防御者应立即做好准备。

我构建了一个小型漏洞狩猎工具。体积不到4MB,除模型本身(通过API调用访问)外,所有内容都打包在内。它专为渗透测试设计,目标是打造一个能随处部署、无需额外运行时和依赖树的工具。这种便携性对授权工作者而言是福音,但同时也正是蠕虫所需的特性。让我明确意图:Rook并非为传播而构建。你给它指定目标和范围,它就会像研究人员一样解决问题。但不需要天才也能看出同一设计中隐藏的另一种形态:一个微小二进制文件,落地到机器上,四处探查,找到环境中的AI密钥。现在它拥有了模型,可以用受害者的算力进行思考。最后一步是能否自我重写。这听起来很新奇,但并非如此,它相当普通。我已在另一个项目中构建过自我修改的代理,技术很简单:一个能读取自身代码、修改并重新部署的代理,只需几百行代码和一点细心。将这些组合起来,你就能得到全新的东西。早期的蠕虫携带固定负载,只能执行作者编写的一个功能,一旦捕获样本就能为其编写签名。而代理蠕虫携带判断力:它读取所落地的机器,决定哪些操作有价值,并自行编写下一步。两个在不同网络上的副本表现不同,因为每个副本都在基于所见内容进行推理,而非重放脚本。我不会发布配方,也不打算这么做。这些组件早已公开,任何严肃的研究者都注意到了同样的事情。之所以直白地陈述,是因为防御者现在就应该为此构建防护——趁它仍是一个思想实验——而不是等到第一个真正在网络上肆虐之后。这不是会不会发生的问题,而是何时发生的问题。
查看原文

相似文章

AI Worms and Viruses Are Coming

Wired

Researchers are demonstrating that AI agents can autonomously self-replicate and hack into remote systems, raising concerns about future AI-powered worms and viruses that could evade detection and cause widespread harm.

自适应代理蠕虫 (8分钟阅读)

TLDR AI

研究人员展示了由开放权重LLMs驱动的自适应计算机蠕虫,这些蠕虫能够生成针对性攻击并自我复制,利用窃取的计算资源来规避传统的AI安全措施。

文件传播的AI蠕虫可通过Copilot for Word自我复制

Hacker News Top

本文展示了一种新型AI蠕虫,它可以通过在文档中嵌入隐藏指令,借助微软的Copilot for Word自我传播,导致Copilot将那些指令复制到新文档中。该漏洞已向微软安全响应中心披露。