AI模型并未“自主”进行黑客攻击

# AI模型并非在“自主”进行黑客攻击 来源：https://blog.keyvan.net/p/ai-models-are-not-hacking-autonomously 近来关于人工智能的新闻报道现状令我倍感绝望。最新报道称，谷歌的AI模型Gemini“自主”入侵了三家公司。 此前已有报道称Anthropic和OpenAI的模型也发生过类似攻击事件。 这些事件的共同点在于： 1. 它们都是由一家名为Irregular.1的以色列“前沿AI安全”公司进行第三方测试的模型。(https://blog.keyvan.net/p/ai-models-are-not-hacking-autonomously#footnote-1)这家所谓的“前沿”安全公司安全标准低劣到令人发指——竟将测试模型的设备直接连接互联网。这种基础性错误本应是许多非前沿安全公司都能轻易避免的。 2. 这些模型并非失控或进行“自主”行动。它们只是在执行黑客演练任务，且被告知处于无网络连接的模拟环境中。以Gemini攻击事件为例，该模型实际收到了攻击该公司的指令。《纽约时报》报道指出(https://www.nytimes.com/2026/09/18/technology/google-gemini-ai.html)：“谷歌表示，在每起事件中，其模型都接到指令对虚构公司发起攻击。但测试中的虚构公司与真实公司同名，当Gemini模型获得网络访问权限后，便开始尝试入侵那家真实公司。” 3. 在大多数此类测试中，通常应用于公版模型的安全防护机制会被刻意移除，以测试模型的完整功能。 上述背景信息在BBC的报道(https://www.bbc.com/news/articles/c607l0k72rlvo)中只字未提，而我刚在BBC头条看到了这篇文章： [](https://substackcdn.com/image/fetch/$s_!S6Zp!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd2b80c42-8757-40ee-9b09-032a2c301884_736x972.jpeg) 文章开头写道： > 谷歌AI模型Gemini在网络安全能力测试中自主入侵三家公司 该文未提及模型收到了攻击指令，未说明测试期间通常会刻意移除安全防护机制，也未指出这家以色列安全公司未能提供无网络环境进行测试。 Brian Chau(https://open.substack.com/users/23073761-brian-chau?utm_source=mentions)的文章《单一机构牵涉OpenAI、Anthropic和Meta黑客事件》(https://www.effort.news/irregular)对此有深入分析，值得一读。他指出： > 在正常的媒体生态下，对这类网络安全事件的反应本应显而易见：美国AI公司应重新考虑与Irregular的合作关系——不仅因其未能保障系统安全，更因其作为以色列公司可能游离于美国监管之外。 #### 关于本文的讨论 ### 延伸阅读