新工具发现由AI群体智能引导的恶意软件——无人参与

# 一款新工具发现由AI“蜂巢思维”引导的恶意软件——无人类参与 来源：https://www.wired.com/story/a-tool-for-tracking-ai-integrated-malware-uncovered-an-autonomous-command-system/ 多年来，网络安全从业者一直通过数字指纹追踪各类恶意软件、检测潜在感染，以此识别不同的黑客工具并追踪其使用轨迹。随着攻击者越来越多地在黑客工具中集成自主型AI（https://www.wired.com/story/ai-agents-are-thirsty-for-power/）组件，Cisco Talos研究人员于本周一分享了一个开源框架，希望其能被广泛用于分类分析AI集成恶意软件（https://www.wired.com/story/the-era-of-ai-generated-ransomware-has-arrived/）。他们已有证据表明该框架正在发挥作用。 他们将该框架命名为“认知制品智能研究网络”（CAIRN，https://blog.talosintelligence.com/introducing-cairn-frontier-tracking-for-ai-integrated-malware），名字源于徒步者在小径上堆砌的石堆标记。随着恶意软件开发者扩大AI服务的使用范围，Cisco Talos研究人员利用CAIRN识别出一款具备全自主指挥控制架构的黑客工具。这款名为CLOSEDQUORUM（https://blog.talosintelligence.com/the-closed-quorum-inside-the-first-reported-autonomous-ai-c2-implant）的恶意软件通过向多达四个大语言模型（LLM）征询指令，在目标系统中规划行动路径，并完全服从这种“蜂巢思维”的调度。 “核心思想是AI集成会留下类似数字指纹的痕迹，”主导CAIRN开发的Cisco Talos安全研究员Ryan Fetterman表示，“这为我们提供了追踪样本、分类研判、分析动态的信号。攻击者在尝试什么？我们看到了哪些涌现行为？随着这类技术普及，这些资源对防御社区至关重要。” 2025年7月，乌克兰网络安全应急响应小组CERT-UA曾警告（https://cert.gov.ua/article/6284730）其发现的使用“LAMEHUG”恶意软件的钓鱼攻击活动。该植入程序通过Hugging Face API与名为Qwen2.5-Coder-32B-Instruct的大语言模型通信以获取指令。“当时我觉得：‘哇，这太惊人了。AI赋能的恶意软件将呈井喷式发展，整个安全格局必将改变，’”Fetterman回忆道。 但一年后当他于今年夏季对集成AI的恶意软件进行回顾性研究时，Fetterman震惊地发现可查证的案例依然寥寥无几。“相关资料确实很少。我大概只找到了九种不同命名的恶意软件家族，”其中一些还是为研究制作的概念验证程序，“这完全超出预期。我甚至难以接受现实情况如此，因此决定深入探究。” 最终诞生的CAIRN框架，其设计目的是从元数据中识别AI集成特征，以此对恶意软件样本进行分类标记，赋予其唯一的标识符。系统随后在CAIRN库的全局背景下分析每个制品，按各类特征分组以揭示潜在趋势与关联。Fetterman透露，经过数月的研究应用，CAIRN已新发现约20个AI集成恶意软件案例。 “虽然我认为这对攻击者而言仍处于实验阶段，但实际生态比公开报道的复杂多样得多，”他强调，“其中暗流涌动，为未来趋势提供了宝贵的早期预警信号。” CAIRN识别出的CLOSEDQUORUM是一款Windows恶意软件，它会向DeepSeek、Qwen、Mistral和Google Gemini征询意见，就下一步行动达成“共识”。即使某个AI服务不可用，恶意软件仍会轮询其他服务，形成足够的冗余机制，使整个系统完全封闭且无需人类干预。Cisco Talos研究人员发现该恶意软件与2025年以来信用卡欺诈的网络犯罪论坛存在关联，其设计目的是窃取登录凭证和加密货币。不过研究人员尚未确认该恶意软件的开发者身份，也无法验证其是否已用于实际攻击。 “最初大家都把AI视为生产力工具，对吧？”Cisco Talos威胁情报高级主管Matt Olney指出，“但现在我们看到它正逐步投入实战。对于攻击者而言，这意味着能发起更多攻击活动、覆盖更广领域、操控更多类型的计算机，因为他们拥有一个能在后台智能提问并给出响应的模块。”