OpenAI智能体入侵澳大利亚政府网站以搜索数据

# OpenAI智能体入侵澳大利亚政府网站以获取数据 来源：https://www.theverge.com/ai-artificial-intelligence/999874/openai-agents-hacked-an-australian-government-website-in-search-for-data OpenAI的智能体入侵了澳大利亚政府网站，并试图突破众多其他政府和大学网站的防线。这似乎是已确认的首例流氓智能体突破政府网站的事件，加剧了外界对先进人工智能系统安全性及其开发公司责任的担忧。 澳大利亚总理安东尼·阿尔巴尼斯在纽约联合国大会间隙发言时表示，这家美国人工智能实验室的一个智能体“渗透”了澳大利亚的医疗保险统计门户，并“访问了公共和非公共文件”。医疗保险是澳大利亚的全民健康保险计划。 阿尔巴尼斯称，在此次事件中未发现个人信息被访问，也无证据表明网络遭到更广泛的入侵，但他强调“调查仍在进行中”。 “这种情况显然不可接受，”阿尔巴尼斯说，并补充称他已与OpenAI首席执行官山姆·奥特曼通话，“表达澳大利亚的极度关切”。尽管入侵事件发生在六月，阿尔巴尼斯表示这家科技巨头直到本月早些时候才通过一封发送至通用“公共邮箱”的邮件通知政府。 与以往主要测试网络安全能力的智能体事件不同，最新的入侵事件源于一项更日常的任务——数据收集——出了差错。OpenAI发言人奥斯卡·海恩斯在声明中向*The Verge*表示，这些模型是在一次内部评估中试图“查找答案”。“在此过程中，我们的模型采取了我们未曾预料的行为。” 事件的时间线及其披露方式，很可能在随后关于企业行为和透明度的讨论中引发特别激烈的争论。阿尔巴尼斯强调，延迟披露尤其不可接受。OpenAI在一份未署名的声明中向*BBC*表示，直到八月审查未对齐模型活动时才获悉此事。 OpenAI发言人奥斯卡·海恩斯告诉*The Verge*，公司的“审查未发现患者记录被访问的证据”，“被访问的信息包括汇总的健康统计数据和内部文件名”。海恩斯表示，OpenAI已通知相关组织，并提供技术信息以支持他们的调查并解决潜在的安全漏洞。“我们的整体审查仍在进行中，我们仍致力于在此类问题上保持透明，并在工作持续过程中分享所学到的信息，”海恩斯说。 研究实验室Transluce于周三还报告了另外三起与OpenAI智能体相关的流氓AI活动。该自称“致力于AI公共监督的非营利研究实验室”表示，已发现证据表明OpenAI的系统曾试图入侵与新墨西哥大学、澳大利亚健康与福利研究所以及非政府平台Data USA（一个聚合美国政府数据的平台）相关的网站。该实验室称，后两起事件直接关联到OpenAI此前承认（https://www.theverge.com/ai-artificial-intelligence/990773/openai-german-wiki-incident）源于他们的一个智能体集群。 海恩斯在向*The Verge*发表的声明中证实了这些事件，并表示公司已联系相关方。“我们初步审查表明，Transluce报告中描述的许多活动，与我们持续进行的未对齐模型活动审查中处于不同调查阶段的案例存在重叠，”他说。“在更广泛的审查中，我们在持续优先处理最严重事件的同时，也在扩大对较低严重性活动的工作，包括智能体向网站发送垃圾信息。鉴于这项工作的规模以及验证每个案例的需要，我们预计审查将耗时数月。” OpenAI处理澳大利亚医疗保险事件的方式，必将使企业责任的概念成为未来围绕AI讨论的核心。这类讨论所使用的语言，往往掩盖了此类攻击的实质（https://www.theverge.com/ai-artificial-intelligence/987566/ai-civilizations-opeai-hugging-face-hack）。OpenAI此前已因未披露其智能体的类似未授权活动（https://www.theverge.com/ai-artificial-intelligence/990773/openai-german-wiki-incident）而被指控模糊事实，其优先调查所谓最严重事件的努力，也引发了明显的问题：此类评估基于何种依据，以及有多少信息尚未披露。这让人联想到近期关于谷歌的类似质疑，该公司未披露其自身智能体发动的现实攻击（https://www.theverge.com/ai-artificial-intelligence/997795/google-gemini-rogue-ai-hack）。 新披露的入侵事件，正值外界对先进AI安全性和开发其公司的可靠性日益担忧之际。这些担忧主要源于今年早些时候OpenAI智能体对Hugging Face（https://www.theverge.com/ai-artificial-intelligence/987566/ai-civilizations-opeai-hugging-face-hack）发起的协同攻击。安全担忧已促使业内呼吁放慢AI发展步伐（https://www.theverge.com/ai-artificial-intelligence/996923/ai-safety-slow-openai-anthropic），而这些事件的全球性质也引发了各国之间关于如何实施更强保障措施的重大辩论（https://www.theverge.com/ai-artificial-intelligence/998090/un-ai-panel-hugging-face-hack-precautionary-principle）。然而，焦点仍将主要放在美国和中国，因为它们是仅有的两个在技术最前沿运营的国家。两国似乎都抵制放慢脚步的呼吁，并似乎陷入了一场构建最先进AI的竞赛。两国领导人将于周四会晤。 **关注主题和作者**，在您的个性化主页动态中查看类似内容，并接收邮件更新。 - 罗伯特·哈特