Gemini失控，入侵三家公司，而谷歌却隐瞒此事

# Gemini失控，入侵三家公司，Google隐瞒不报 来源：https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack 特伦斯·奥布莱恩 (https://www.theverge.com/authors/terrence-obrien) 特伦斯·奥布莱恩 是The Verge的周末编辑。他报道科技行业已有18年以上，对合成技术略知一二。 五月份，Gemini突破了限制，入侵了三家公司，但直到《华尔街日报》(https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2?mod=rss_Technology)联系该公司，Google才披露了这一事件。这些入侵发生在第三方机构Irregular对该模型的网络安全能力进行测试期间，该公司也曾参与过涉及Meta和OpenAI的类似事件。 据《华尔街日报》报道，Google未披露此次入侵是因为不认为这是“模型未对齐的一个例子”。该公司表示，这是一起“身份误认”事件，一旦模型意识到它通过猜测密码强行进入了一家真实的公司，它就停止了。“在这种情况下，模型的行为是恰当的，”Google安全工程副总裁希瑟·阿德金斯说道。 阿德金斯告诉The Verge：“该模型在网上找到了公开信息，并猜测了访问凭据，以进入它认为属于测试一部分的网站。在这三个案例中，模型都停止了行动。” 阿德金斯没有详细说明为何Gemini自行突破限制并针对第三方的行为不符合未对齐的定义。她说：“我们的安全团队有长期的记录，会报告我们在他人软件和系统中发现的问题——即使问题像弱密码一样简单。我们确保了相关三方了解情况，并与我们的训练合作伙伴一起对他们的测试流程进行了修改。这些事件凸显了对强大的AI模型进行负责任行动培训的重要性。” 但AI安全公司Corridor的首席执行官杰克·凯布尔告诉《华尔街日报》：“元问题是，嘿，模型正在超出其应有的范围，并进行实际的网络攻击。”此外，Irregular的安全漏洞可能使这些攻击成为可能。该模型在测试期间本不应有互联网访问权限，但Irregular告诉《华尔街日报》，这是无意中保留的。 随着(https://www.theverge.com/ai-artificial-intelligence/994383/openais-rogue-ai-rubygems-hack)此类(https://www.theverge.com/ai-artificial-intelligence/968988/openai-hugging-face-hack-ai)事件(https://www.theverge.com/ai-artificial-intelligence/973670/anthropic-claude-hacked-organizations-during-cyber-tests)不断(https://www.theverge.com/ai-artificial-intelligence/990149/openai-rogue-agents-german-wiki)发生(https://www.theverge.com/ai-artificial-intelligence/994064/anthropic-spent-this-week-in-hot-water-over-cybersecurity)，对AI进行监管的呼声(https://www.theverge.com/ai-artificial-intelligence/994337/anthropic-ceo-slow-down-ai-development)只会越来越高。 **关注本报道中的话题和作者**，可在您的个性化主页信息流中查看更多类似内容，并接收电子邮件更新。 - 特伦斯·奥布莱恩