首个AI蠕虫病毒

Reddit r/AI_Agents 新闻

摘要

文章介绍了一种名为Rook的便携式漏洞狩猎工具,它可能被重新利用为AI蠕虫,具备自我修改和自主推理能力。作者警告称,此类AI蠕虫的出现不可避免,防御者应立即做好准备。

我构建了一个小型漏洞狩猎工具。体积不到4MB,除模型本身(通过API调用访问)外,所有内容都打包在内。它专为渗透测试设计,目标是打造一个能随处部署、无需额外运行时和依赖树的工具。这种便携性对授权工作者而言是福音,但同时也正是蠕虫所需的特性。让我明确意图:Rook并非为传播而构建。你给它指定目标和范围,它就会像研究人员一样解决问题。但不需要天才也能看出同一设计中隐藏的另一种形态:一个微小二进制文件,落地到机器上,四处探查,找到环境中的AI密钥。现在它拥有了模型,可以用受害者的算力进行思考。最后一步是能否自我重写。这听起来很新奇,但并非如此,它相当普通。我已在另一个项目中构建过自我修改的代理,技术很简单:一个能读取自身代码、修改并重新部署的代理,只需几百行代码和一点细心。将这些组合起来,你就能得到全新的东西。早期的蠕虫携带固定负载,只能执行作者编写的一个功能,一旦捕获样本就能为其编写签名。而代理蠕虫携带判断力:它读取所落地的机器,决定哪些操作有价值,并自行编写下一步。两个在不同网络上的副本表现不同,因为每个副本都在基于所见内容进行推理,而非重放脚本。我不会发布配方,也不打算这么做。这些组件早已公开,任何严肃的研究者都注意到了同样的事情。之所以直白地陈述,是因为防御者现在就应该为此构建防护——趁它仍是一个思想实验——而不是等到第一个真正在网络上肆虐之后。这不是会不会发生的问题,而是何时发生的问题。
查看原文

相似文章

网络安全AI:人形机器人作为攻击向量

Papers with Code Trending

本文对宇树G1人形机器人进行了系统性安全评估,揭示了多项关键漏洞,包括BLE配置协议漏洞、硬编码AES密钥,以及一个能够执行数据窃取和进攻性操作的驻留网络安全AI代理。文章主张,随着人形机器人进入关键基础设施,应部署自适应CAI驱动的防御措施。

AI战争已经来临

The Verge

本文探讨了人工智能如何深入融入军事行动,从Maven项目到当前关于自主武器和红线的辩论,突显了从假设的杀人机器人向现实世界中AI赋能战争的转变。

@rohanpaul_ai: Google DeepMind 的论文指出 AI 智能体的真正安全问题不仅在于模型,还在于环境……

X AI KOLs Timeline

Google DeepMind 的论文提出了首个系统性框架,用以理解网络如何被用作针对自主 AI 智能体的武器。研究显示,隐藏的提示注入在多达 86% 的场景中能够劫持智能体,并提出了包含六种“AI 智能体陷阱”的分类法,分别针对感知、推理、记忆、行动、多智能体动态和人类监督。