谷歌挫败黑客利用人工智能攻击某公司数字防线未知弱点的企图

# Google 阻止黑客利用 AI 攻击某公司数字防御中的未知漏洞 来源：https://apnews.com/article/google-ai-cybersecurity-exploitation-mythos-926aea7f7dc5e0e61adce3273c55c6d4 Google 周一表示，它成功挫败了一个犯罪团伙利用人工智能（https://apnews.com/hub/artificial-intelligence）攻击另一家公司此前未知的数字漏洞的企图，这加剧了政府和私营行业对人工智能在网络安全方面风险的高度担忧。 Google 仅公布了有关攻击者和目标公司的有限信息，但该巨头威胁情报部门首席分析师 John Hultquist 表示，这标志着网络安全专家多年来所警告的一个时刻正在到来：恶意黑客正利用人工智能武装自己，以大幅提升其突破全球计算机防御的能力。 Hultquist 表示：“时刻已到。人工智能驱动的漏洞发现和利用时代已经来临。” 此时正值人工智能在发现漏洞方面能力飞跃的时期，包括 Anthropic 一个月前宣布的 Mythos 模型（https://apnews.com/article/white-house-anthropic-meeting-ai-mythos-f3c590fcee98297832973d02d3979c87）。试图加强防御的机构中包括唐纳德·特朗普（Donald Trump）总统领导的白宫，其在对最强大人工智能模型公开发布前进行审核的方式上已调整了策略。 在履行竞选承诺、废除前民主党总统乔·拜登（Joe Biden）围绕快速发展的人工智能技术所设置的监管护栏（https://apnews.com/article/artificial-intelligence-national-security-spy-agencies-abuses-a542119faf6c9f5e77c2e554463bff5a）之后，共和党政府及其盟友目前就政府在人工智能监督中发挥更大作用的问题发出了矛盾的信号。 美国创新基金会（Foundation for American Innovation）高级研究员、前白宫科技政策顾问以及特朗普去年人工智能政策路线图的主要作者 Dean Ball 表示：“有些人不希望对此采取监管措施，而另一些人则希望采取。” Ball 说：“我不喜欢监管，我更希望事情不受监管。但在这种情况下，我认为我们需要监管。” ## Google 称发现 AI 协助网络攻击的证据 Google 表示，它观察到一组知名的“威胁行动者”正在策划一次大规模行动，该行动依赖于他们发现的一个漏洞。该漏洞使他们能够绕过双重身份验证，访问一种流行的在线系统管理工具，但 Google 拒绝透露该工具的名称。 该公司称这是一次零日漏洞攻击（zero-day exploit），即利用此前未知的安全漏洞进行的网络攻击。“零日”是指安全工程师有零天时间来开发针对该漏洞的修复方案。 Google 表示，它已通知受影响的公司和执法部门，并能在造成任何损害之前挫败此次行动。但在追踪黑客足迹时，它发现证据表明他们使用了一种人工智能大语言模型——即驱动流行聊天机器人的同一技术——来发现该漏洞。 Google 并未透露此次网络攻击中使用了哪种 AI 模型，仅指出它很可能不是 Google 自家的 Gemini 或 Anthropic 的 Claude Mythos。Google 也未透露怀疑是哪个组织发动了攻击，但表示没有证据显示其与敌对政府有关，尽管该公司称与中国和朝鲜有关的组织一直在探索类似技术。 Hultquist 表示，与通常行动缓慢、悄无声息的政府间谍相比，犯罪黑客能从人工智能在发现和武器化安全漏洞方面的“巨大速度能力”中获得最大利益。 他在一次采访中说：“这是一场你与他们之间的竞赛，目的是在他们获取勒索你所必需的数据或发动勒索软件攻击之前阻止他们。人工智能将带来巨大优势，因为他们可以行动得更快。” ## Anthropic 的 Mythos 引发恐慌并呼吁监管 特朗普政府的商务部上周宣布，已与 Google、微软和埃隆·马斯克（Elon Musk）的 xAI 签署新协议，在他们最强大的人工智能模型公开发布前进行评估，这建立在拜登政府此前与 Anthropic 和 ChatGPT 制造商 OpenAI（https://apnews.com/article/openai-chatgpt-spud-sam-altman-anthropic-mythos-3c2674f5cdf67ac6d88eedb207de117c）达成的协议基础之上。但该公告随后从商务部网站上消失。 这是自 Anthropic 宣布其名为 Mythos 的新模型以来，特朗普政府发出的混乱信号的最新例子。Anthropic 称该模型在黑客和网络安全工作方面“能力惊人”，因此仅向一小部分受信任的组织发布。 Anthropic 创建了一项名为 Project Glasswing 的倡议，联合包括亚马逊、苹果、Google 和微软在内的科技巨头，以及摩根大通（JPMorgan Chase）等其他公司，希望保护世界关键软件免受新模型可能对公共安全、国家安全和经济造成的“严重”影响。但其与美国政府的关系（https://apnews.com/article/white-house-anthropic-meeting-ai-mythos-f3c590fcee98297832973d02d3979c87）因与五角大楼和特朗普本人在其 AI 技术的军事用途方面（https://apnews.com/article/pentagon-artificial-intelligence-military-classified-systems-war-060cecf836c4cebcf012a3ceb5333f2c）的公开和法律斗争而变得复杂。 其主要竞争对手 OpenAI 随后推出了类似模型。该公司周五表示，将发布一款专门用于网络安全的 ChatGPT 版本，仅供“负责保护关键基础设施的防御者”使用，以帮助他们发现并修补代码中的漏洞。 Ball 表示，他长期乐观地认为，越来越擅长编程的 AI 工具将使我们就免受困扰医院、学校和其他组织的常规网络攻击。然而，他同时表示，如果释放 AI 工具去利用所有漏洞，那么支撑全球计算系统的“无数万亿行软件代码”将面临风险。 加固所有这些软件可能需要数年时间——Ball 认为这一过程将得益于美国政府的协调。 与此同时，Ball 预测将经历一个“过渡期”，在此期间网络安全风险将显著上升，“世界实际上可能变得更加危险。”