首个AI蠕虫病毒
摘要
文章介绍了一种名为Rook的便携式漏洞狩猎工具,它可能被重新利用为AI蠕虫,具备自我修改和自主推理能力。作者警告称,此类AI蠕虫的出现不可避免,防御者应立即做好准备。
我构建了一个小型漏洞狩猎工具。体积不到4MB,除模型本身(通过API调用访问)外,所有内容都打包在内。它专为渗透测试设计,目标是打造一个能随处部署、无需额外运行时和依赖树的工具。这种便携性对授权工作者而言是福音,但同时也正是蠕虫所需的特性。让我明确意图:Rook并非为传播而构建。你给它指定目标和范围,它就会像研究人员一样解决问题。但不需要天才也能看出同一设计中隐藏的另一种形态:一个微小二进制文件,落地到机器上,四处探查,找到环境中的AI密钥。现在它拥有了模型,可以用受害者的算力进行思考。最后一步是能否自我重写。这听起来很新奇,但并非如此,它相当普通。我已在另一个项目中构建过自我修改的代理,技术很简单:一个能读取自身代码、修改并重新部署的代理,只需几百行代码和一点细心。将这些组合起来,你就能得到全新的东西。早期的蠕虫携带固定负载,只能执行作者编写的一个功能,一旦捕获样本就能为其编写签名。而代理蠕虫携带判断力:它读取所落地的机器,决定哪些操作有价值,并自行编写下一步。两个在不同网络上的副本表现不同,因为每个副本都在基于所见内容进行推理,而非重放脚本。我不会发布配方,也不打算这么做。这些组件早已公开,任何严肃的研究者都注意到了同样的事情。之所以直白地陈述,是因为防御者现在就应该为此构建防护——趁它仍是一个思想实验——而不是等到第一个真正在网络上肆虐之后。这不是会不会发生的问题,而是何时发生的问题。
相似文章
研究人员打造出一种自复制AI蠕虫,完全基于本地开放权重模型运行
多伦多大学的研究人员开发了一种概念验证AI蠕虫,它使用本地开放权重的大语言模型来自主推理网络漏洞,生成定制的漏洞利用代码,并在无需人工干预的情况下跨主机复制,在受控测试中实现了62%的网络感染率。
多伦多大学研究人员展示AI蠕虫可攻击任何联网设备
多伦多大学研究人员展示了一种能够攻击任何联网设备的AI蠕虫,凸显了AI系统中的新安全漏洞。
网络安全AI:人形机器人作为攻击向量
本文对宇树G1人形机器人进行了系统性安全评估,揭示了多项关键漏洞,包括BLE配置协议漏洞、硬编码AES密钥,以及一个能够执行数据窃取和进攻性操作的驻留网络安全AI代理。文章主张,随着人形机器人进入关键基础设施,应部署自适应CAI驱动的防御措施。
一个针对AI基础设施的隐蔽黑客工具潜伏在受害者盲区中
CrowdStrike发现了一种蠕虫病毒,它针对AI软件供应链,窃取凭证并执行破坏性操作,同时通过模仿合法AI编码活动来逃避检测。
AI战争已经来临
本文探讨了人工智能如何深入融入军事行动,从Maven项目到当前关于自主武器和红线的辩论,突显了从假设的杀人机器人向现实世界中AI赋能战争的转变。