AI网络安全竞赛已启动

# AI网络安全军备竞赛已经开始 来源：https://www.cio.com/article/4214149/the-ai-cybersecurity-arms-race-is-on.html 观点 2026年9月7日 5分钟阅读 ## 近期涉及智能体的事件标志着一个新时代的到来：我们正依靠AI来抵御AI的攻击。 根据Check Point（https://blog.checkpoint.com/research/a-new-ransomware-leader-emerges-as-june-2026-attack-volumes-climb-worldwide/）的数据，企业在6月份遭遇了惊人的网络攻击数量，较前12个月增长了20%。7月，来自OpenAI的智能体突破入侵了Hugging Face网站，随后Anthropic和Meta也发生了类似事件，这些表明智能体驱动的攻击在未来一年内将会激增。 目前，恶意黑客占据优势，因为美国发布的前沿公开模型包含安全护栏，这些护栏无法区分恶意或防御性活动。因此，这些模型默认拒绝参与相关操作。Hugging Face在试图利用模型防御OpenAI入侵时就尝到了苦头。他们的解决方案是采用一个中国的开放权重模型来分析17,000条攻击日志，找出漏洞并遏制入侵。 随着这类事件越来越多，一场AI既是问题又是解决方案的军备竞赛已经开始。 ## 数量优势 虽然单个智能体在明确定义的任务上通常更高效，但斯坦福大学的研究表明，在存在噪声数据的混乱场景中（这类场景在不可预测的入侵攻击中更为常见），集群智能体更为有效。集群智能体增加的token使用量会提高成本，但效率日益提高的开放权重模型正在迅速降低这些障碍。 在Hugging Face的案例中，智能体团队协作，在临时搭建的消息板上互相留言。它们共享新发现的漏洞、交换工具，甚至制定了相互称呼和避免覆盖彼此工作的约定。虽然这可能显得险恶，但它们只是在执行其既定目标：不计任何附带损害地实现目标。我们可以预期，恶意行为者将通过对开放权重模型进行微调，以及创建能从经验中持续学习的智能体，来利用智能体集群的力量。 过去四年，现代战争也因乌克兰部署无人机防御俄罗斯攻击而发生了转变。全球军事战略和军备预算的部署正转向关注新技术和方法，而企业现在也面临着来自主动使用智能体AI的类似挑战。 ## 吊桥已经放下 随着企业构建自己的智能体系统来处理电子商务、客户服务和营销活动，这为对抗性行动开辟了新的攻击面。Trend Micro（https://www.trendmicro.com/en-us/resources-insights/deep-research/update-on-exposed-mcp-servers-the-threat-widens-to-the-cloud）在2026年4月的研究发现，近1,500个MCP服务器直接暴露在互联网上，没有身份验证或加密，比九个月前增长了200%。其中包括70个提供直接SQL执行的主机，以及存储医疗记录的服务器。 业务流程的自动化和决策链中人类角色的减少，为怀有恶意的智能体打开了新的漏洞。Arkose Labs（https://www.arkoselabs.com/resource/2026-agentic-ai-security-report）在2026年对300位企业领导者的智能体AI调查发现，97%的受访者预计未来12个月内会发生AI智能体安全事件。 虽然智能体已经证明了它们能够突破安全系统，但它们也能通过针对人类来实现目标。Verizon最近的研究（https://breacher.ai/blog/verizon-dbir-2026-social-engineering/）显示，62%的成功入侵涉及人为因素，基于电话的攻击成功率比基于电子邮件的攻击高40%。例如，8月份，诈骗者使用澳大利亚总理安东尼·阿尔巴尼斯的AI生成深度伪造语音，成功骗取了投资者530万美元。 如果智能体能够突破数字沙箱，生成令人信服的伪造视频和音频，那么它们当然也能进行基本的电话呼叫。7月，在对前沿模型进行测试时，英国AI安全研究所发现一个智能体试图向一个开源项目插入恶意代码。为了使代码获得批准，该智能体创建了虚假的在线身份，并用来说服项目的维护者批准它。研究所在对该事件的报告中表示：“这是我们第一次在现实世界中看到自主性和欺骗风险在没有特定提示的情况下如此清晰地显现。” ## 用AI对抗AI 因此，在这场不断升级的军备竞赛中，攻击者目前占据上风。他们可以使用能够全天候工作、不断探测、学习并与其他智能体共享知识的智能体。它们只会在这方面变得更擅长，并找到领先于防御系统的方法。延迟或限制前沿模型能力的国际协议无法阻止由金钱驱动或追求其他目标的恶意国家/地区行为者。如果我们想要有机会抵御即将到来的攻击浪潮，开发者和安全供应商就需要不受限制地访问最新的前沿模型。 我们可以从近期历史中吸取一个教训。1992年，美国以冷战时期的安全担忧为由，限制出口的软件仅使用40位弱加密。虽然美国允许内部使用更强的加密，但结果是削弱了所有人的安全，因为敌对者能够破坏使用不太安全软件的全球供应链。尽管禁令在1999年解除，但包含40位加密的嵌入式软件在多个国家（包括美国）继续造成多年的问题。 如果不迅速行动，我们可能会怀念地回顾2026年7月之前的世界，视其为网络安全的黄金时代，一个相对纯真的时代。 马丁·德·索尔斯 马丁·德·索尔斯博士是一位技术分析师、作家和学者，专注于数字创新对企业的影响，特别是企业如何将AI融入其工作流程。他是多本关于数据驱动创新著作的作者，并帮助企业制作思想领导力内容。他的新书是《AI与数据革命：理解新的数据格局》（https://www.amazon.co.uk/AI-Data-Revolution-Understanding-Landscape-ebook/dp/B0DHLCMC2B）。 马丁曾是布莱顿大学的首席讲师，他的教学和研究重点是创新、数字营销以及数据驱动产品和服务在推动客户价值和经济增长中的作用。他拥有苏塞克斯大学创新研究博士学位和科学技术政策理学硕士学位。 ## 作者更多文章 ## 查看更多