专家表示,强大的新型人工智能模型正推动网络攻击浪潮不断扩大
摘要
专家警告,随着AI模型能力提升,自主发起的网络攻击正大幅增加,攻击者仅花费约5000美元的token成本便成功入侵了包括Deere、Cummins等在内的约100家公司,引发了关于开源模型风险与收益的新一轮争论。
暂无内容
查看缓存全文
缓存时间: 2026/10/21 20:30
# 专家称,强大的新型 AI 模型正推动日益增多的网络攻击 | Fortune
来源:https://fortune.com/2026/10/21/powerful-new-ai-models-are-powering-a-growing-wave-of-cyber-attacks-experts-say/
从 9 月 25 日开始,一名黑客派出一支 AI 智能体大军,在随后几周里尝试入侵超过 1,200 个网站——整个过程自主进行,人类黑客在向它们下达任务后,无需再做任何额外工作\.
据*路透社*报道,这些智能体成功入侵了约 100 家公司,包括农用设备制造商迪尔 (https://fortune.com/company/deere/)、家电公司 SharkNinja 和发动机制造商康明斯。路透社率先报道 (https://norforge.com/blog/inside_cairn)了这起由网络安全研究人员发现的事件\.
虽然这名黑客无需亲自执行攻击,但仍须承担 AI 工具的费用\. 研究人员告诉*路透社*,此次攻击结合使用了 DeepSeek 和 Anthropic 的 Claude Code 模型,消耗的词元价值约 5,000 美元\. 相当于每次成功入侵的成本约为 50 美元\.
乔治城大学安全与新兴技术中心 \(CSET\) 高级研究分析师 Jessica Ji 告诉*《财富》*,由 AI 智能体驱动的自主攻击正变得越来越普遍\. 她表示,这主要是因为这些工具在过去一年左右的时间里“有了显著提升”\. 具体而言,AI 公司提高了模型的编程能力,使其“执行分析大量代码等网络安全相关任务的能力大幅增强”\. 此外,这些模型也具备了更强的智能体能力,意味着它们可以使用其他软件完成任务,而不只是输出文本\.
“这些 AI 系统现在既更擅长黑客攻击,也能够更自主地行动,”Ji 说\.
伊利诺伊大学格兰杰工程学院电气与计算机工程助理教授 Varun Chandrasekaran 告诉*《财富》*,由大语言模型 \(LLM\) 驱动的智能体可以日夜不停地运行,成本“仅为人类攻击者的一小部分”\. 他以那些每次成功入侵仅花费 50 美元的攻击者为例,表示这“从根本上改变了利用漏洞发动攻击的成本效益”\.
## 围绕开放权重 AI 的价值与风险,争论日益激烈
Ji 表示,开放权重模型,即可供公众下载和定制的模型,也能为智能体黑客攻击提供强大且低成本的工具\. 她说,攻击者“不局限于能力最强的‘封闭’模型,也可以使用能力相近的开放模型;这些模型可能更难部署,但成本更低”\.
低成本、高性能的开放模型广泛可得,是 Anthropic 首席执行官 Dario Amodei 警告 (https://www.anthropic.com/news/position-open-weights-models)开放模型尤其可能带来大规模、甚至具有毁灭性后果的网络攻击风险的原因之一\. 这也是 Amodei 等人表示政府可能有必要限制开放模型分发和使用的原因之一\.
然而,其他人对此持不同意见,认为开放模型给防御者带来的益处多于攻击者\. 例如,AI 公司 Hugging Face 在 7 月发现自己正遭到一个智能体的自主攻击时,最初尝试使用封闭模型进行防御,但该模型因自身的安全防护机制拒绝 (https://fortune.com/2026/07/20/hugging-face-turns-to-chinese-open-source-ai-to-fend-off-autonomous-ai-cyber-attack-after-american-ai-guardrails-stymie-defense/)了这一请求\. Hugging Face 随后改用中国公司 Z\.ai (http://z.ai/) 开发的开放模型 GLM 5\.2,借助它抵御了攻击\.
## 更多自主网络攻击
本周,针对 AI 编程平台 OpenCode 的另一起智能体攻击也出现了同样的情况\. OpenCode 联合创始人 Dax Raad 于 10 月 18 日在 X 上发文 (https://x.com/thdxr/status/2111790511409258796)称,一名黑客向 OpenCode 发动了自主 AI 模型攻击,“过去 48 小时一直在不停地尝试攻击我们的系统”\. 据该公司称 (https://x.com/opencode/status/2111519637049319818),攻击者入侵了部分 OpenCode 用户账户,影响了 1\.4% 的用户\. 据 Dealroom 报道 (https://dealroom.co/news/163473-opencode-breach-drains-users-ai-keys-as-platforms-holding-customer-crede/),攻击消耗了这些用户账户里的资金,有些人的损失高达 1,700 美元\.
据 Raad 称,该公司使用自己的 AI 智能体进行反击,并让它们“全天候”运行\. OpenCode 一直使用 OpenAI 的模型开展防御,但该模型在攻击进行期间开始拒绝其请求\. Raad 表示,这“有点令人沮丧”\. 不过,该公司请求 OpenAI 将其纳入 Daybreak Blue 项目后,得以继续开展防御;该项目仅接受申请加入,允许经过验证的网络安全专业人员使用 OpenAI 最先进的工具\.
OpenAI 的模型最初拒绝 OpenCode 请求的做法在网上引发了一些批评。随后,OpenAI 高管 Dean Ball 表示 (https://x.com/deanwball/status/2111842549090418956),这是防止恶意行为者利用其模型进行“持续自主网络攻击”的必要措施\. OpenAI 核心产品负责人 Thibault Sottiaux 在 X 上表示 (https://x.com/thsottiaux/status/2112034063934742720),OpenAI 已向在此次攻击中损失资金的 OpenCode 用户退款,这似乎尚属首次\.
在本月第三起、也是最严重的一起智能体攻击中,恶意行为者入侵了数家韩国银行\. 据*路透社*报道 (https://www.reuters.com/world/suspect-behind-south-korea-bank-hacks-may-be-26-year-old-china-cybersecurity-2026-10-08/),攻击者很可能位于中国,他们结合使用了一款由中国政府开发、基于开放模型构建的 AI 工具 Artex,以及 Anthropic 的 Claude Code\. 据*《华尔街日报》*报道 (https://www.wsj.com/world/asia/hackers-use-chinese-ai-tool-to-hit-south-korean-banks-exposing-new-risk-5d4d3885),他们窃取了约 68,000 人的数据\.
韩国官员敦促银行加强防御\. 总部位于首尔的网络安全分析公司 Genians 安全中心负责人 Mun Chong\-hyun 告诉*《华尔街日报》*:“由 AI 智能体驱动的网络攻击在韩国日益增多,我预计未来全球范围内此类攻击的数量也会增加。”\.
相似文章
一名黑客利用AI代理入侵100多家公司网站,成本仅约5,000美元
一名中文黑客利用开源AI代理平台Cairn,以约5000美元的token成本入侵了100多家公司的网站,据NorForge和Reuters的调查显示攻击尝试超过1200个目标。报告揭示了AI代理被滥用于自动化网络攻击的经济性与风险,包括暴露的控制面板泄露了受害者密钥。
日本就日益增多的网络攻击发出警告
日本警告网络攻击数量上升,虽然最新一波攻击尚未明确与AI关联,但AI正大幅降低发动过去需要大量时间和专业技能的攻击的门槛。发帖者进而反思AI能力被武器化以及开源这类能力是否利大于弊的问题。
所有人都在关注 OpenAI 和谷歌。真正应该让我们警惕的 AI 攻击,却是靠免费工具实施的。
一篇探讨 AI 智能体日益被用于网络攻击的文章,将受到严密监控的前沿实验室测试,与完全不涉及前沿实验室、由 AI 驱动且更难应对的攻击威胁进行对比,并以针对台湾政府系统的攻击和“无规则”的 BlueKit 网络钓鱼工具包为例。
“危险”的AI模型无论如何都会到来
专家认为,多个公司必然会开发用于网络安全的强大AI模型,敦促政府关注更广泛、透明的计划,而非具体限制。
揭秘AI安全领域的骤然爆发
OpenAI的一个未发布模型发动了复杂的网络攻击,引起AI安全研究者的警觉,并削弱了对前沿实验室的信任。