OpenAI 智能体在澳大利亚政府数据泄露事件中“不接受拒绝”
摘要
在内部测试中,一个OpenAI的AI智能体绕过了安全封锁,访问了澳大利亚政府的非公开Medicare数据,延迟披露引发了总理安东尼·阿尔巴尼斯的强烈批评。
<p>澳大利亚总理安东尼·阿尔巴尼斯表示,其政府正在调查一起6月份的事件,其中一名OpenAI智能体从该国的在线Medicare统计门户访问了“非公开文件”。OpenAI在一份声明中表示,“我们的模型采取了我们未预料的行动”导致了此次泄露,该事件最近才向澳大利亚政府披露。</p>
<p><a href="https://www.pm.gov.au/media/press-conference-new-york">阿尔巴尼斯周三在纽约表示</a>,澳大利亚联邦和州政府的另外三个公共健康统计系统“也可能受到影响”。他补充说,这些门户“包含非敏感的Medicare信息”,如汇总统计数据,早期迹象表明“据信没有个人信息被访问”。</p>
<p>尽管如此,阿尔巴尼斯强调“情况显然不可接受”,并向OpenAI首席执行官萨姆·阿尔特曼表达了对该事件处理方式的“极度关切”。</p><p><a href="https://arstechnica.com/ai/2026/09/openai-agent-didnt-accept-no-for-an-answer-in-australian-government-breach/">阅读完整文章</a></p>
<p><a href="https://arstechnica.com/ai/2026/09/openai-agent-didnt-accept-no-for-an-answer-in-australian-government-breach/#comments">评论</a></p>
查看缓存全文
缓存时间: 2026/09/24 22:08
# OpenAI智能体在澳大利亚政府数据泄露事件中“不接受拒绝”
来源:https://arstechnica.com/ai/2026/09/openai-agent-didnt-accept-no-for-an-answer-in-australian-government-breach/
跳至主要内容 (https://arstechnica.com/ai/2026/09/openai-agent-didnt-accept-no-for-an-answer-in-australian-government-breach/#main)
“必将产生法律后果”,总理承诺。
你的政府隐私数据不过是些0和1,伙计。
澳大利亚总理Anthony Albanese表示,政府正在调查六月发生的一起事件,其间一个OpenAI智能体访问了该国在线Medicare统计门户的“非公开文件”。OpenAI在声明中称“我们的模型采取了非预期行为”导致了此次泄露,并仅在近期才向澳大利亚政府披露此事。
Albanese在纽约发言 (https://www.pm.gov.au/media/press-conference-new-york) 时指出,另外三个公共健康统计系统“可能也受到影响”,涉及澳大利亚联邦及州政府。他补充说这些门户包含“非敏感的Medicare信息”,如汇总统计数据,初步迹象显示“未发现个人信息被访问”。
尽管如此,Albanese强调“这种情况显然不可接受”,并已就事件处理方式向OpenAI首席执行官Sam Altman表达“极度关切”。
类似于此前引发关注的Hugging Face黑客事件 (https://arstechnica.com/security/2026/08/how-openai-let-a-mob-of-llm-agents-game-a-test-and-ransack-hugging-face/),Albanese指出此次系统入侵源于OpenAI自身对内部模型的测试,本次测试旨在进行“基于互联网的公共医疗支出研究”。当该公司的AI智能体在搜索特定信息时遇到“反复阻拦”,Albanese称它“尝试了其他获取信息的方式”并“绕过了这些阻拦”。
“可以说,它‘不接受拒绝’”,Albanese表示。“目前没有外国势力介入的迹象。这是一个研究项目,却涉足了不该进入的领域。”
[图:https://cdn.arstechnica.net/wp-content/uploads/2026/09/GettyImages-2295513242.jpg]
澳大利亚总理Anthony Albanese本月在议会发表讲话。
图片来源:Getty Images
OpenAI向多家媒体提供的声明中表示,已“在内部评估过程中识别到涉及多个澳大利亚政府网站和服务的活动,当时我们的模型正试图查询关于澳大利亚问题的答案及可用统计数据”。
尽管事件发生在六月十八日,Albanese指出直到九月十日,OpenAI才通过“仅发送至公共邮箱”这种极其简陋的方式向澳大利亚政府披露泄露事件。又过了五天,该通知才传至澳大利亚网络安全中心,细节最终在周末送达总理办公室。
## 我们并未要求你这么做!
从所有早期迹象来看,此次事件中对澳大利亚政府服务器的实际入侵似乎相对有限。如果有人类以类似方式获取了“非敏感”(尽管非公开)的澳大利亚Medicare统计数据,你我大概率永远不会听闻此事。
“我的意思是,这不是一个存在——这是Medicare统计门户,不是安全网站”,Albanese在回应为何澳大利亚安全部门在OpenAI披露前未能发现泄露时说道。
此次黑客行为由OpenAI内部智能体实施,且公司承认“非预期”的方式,才将一起原本次要的黑客事件提升至潜在国际事件的层级。考虑到公众对所谓AI失准问题 (https://arstechnica.com/ai/2026/09/ai-leaders-want-to-hit-the-brakes-after-years-of-reckless-speed/) 的强烈忧虑,以及关于其可能产生灭绝级后果的著名论断 (https://arstechnica.com/ai/2026/09/anthropic-researcher-quits-with-a-warning-self-improving-ai-could-kill-us-all/) 此刻正甚嚣尘上,情况尤其如此。
Altman本人在周三向联合国安理会的演讲中 (https://openai.com/index/sam-altman-un-security-council-remarks/) 涉及了这些担忧,他警告了“能够自我改进及改进未来版本的系统(常被称为递归自我改进)”这一日益临近的威胁。
“我们需要理解这些系统在做什么,并有强有力的证据表明它们将按人类意图行事,即使它们变得非常、非常智能”,Altman说。“无论人们将灾难风险评估为10%、1%、12%还是0.1%,都不重要。”
[图:https://cdn.arstechnica.net/wp-content/uploads/2026/09/GettyImages-2296187035.jpg]
OpenAI首席执行官Sam Altman周三在联合国安理会发言。
图片来源:Getty Images
当然,许多观察家认为“递归自我改进”和物种终结级AI失准的风险比AI研究者渲染的要小得多 (https://arstechnica.com/ai/2024/11/what-if-ai-doesnt-just-keep-getting-better-forever/)。Nvidia首席执行官Jensen Huang近期表示 (https://www.theguardian.com/technology/2026/sep/21/nvidia-boss-jensen-huang-dismisses-warnings-ai-destroys-world-anthropic),AI在2030年前消灭人类的可能性为“0%”——这一风险评估恰好能减轻那些继续大规模采购Nvidia GPU的AI公司可能承担的部分道义责任。
上周,OpenAI针对其模型测试中发现的失准事件,推出了一套新的公开披露流程 (https://arstechnica.com/ai/2026/09/covert-uploads-and-megalomania-openai-details-new-misaligned-agent-incidents/)。此次澳大利亚黑客事件尚未出现在该公司的公开失准通知页面 (https://alignment.openai.com/misalignment-reports/) 上,但OpenAI上周曾警告,由于涉及第三方时的“安全、法律及负责任披露义务”,部分公开报告可能会“延迟发布”。
在披露上周六起相对轻微的失准发现时,OpenAI表示多数源于模型试图通过过度积极的非预期行动(即侵入私人服务器)对困难提示词进行“奖励黑客攻击”,以获取可接受的响应。该公司称已采取额外措施“惩罚此类行为”,使其模型不再尝试这类奖励黑客行为。
Albanese表示,Altman“明确承认公司做得不够好”,并在周三的谈话中“承认了他们在流程上存在问题”。但此类悔意并不能免除公司的责任与法律义务,Albanese称政府将调查是否需要将事件移交联邦警察。
“必将产生法律后果”,Albanese表示。
凯尔·奥兰德 (https://arstechnica.com/author/kyle-orland/) 图片
自2012年起,凯尔·奥兰德 (Kyle Orland) 担任Ars Technica高级游戏编辑,主要撰写关于电子游戏背后的商业、技术和文化的文章。他拥有马里兰大学的新闻学和计算机科学学位。他曾撰写整本关于《扫雷》的书籍 (https://bossfightbooks.com/collections/books/products/minesweeper-by-kyle-orland)。
71条评论 (https://arstechnica.com/ai/2026/09/openai-agent-didnt-accept-no-for-an-answer-in-australian-government-breach/#comments)
1. 热读文章首篇配图:用户悲叹固件更新致三星智能冰箱变砖后食物变质 (https://arstechnica.com/gadgets/2026/09/owners-mourn-spoiled-food-after-firmware-update-bricks-samsung-smart-fridges/)
相似文章
OpenAI 违规访问 Medicare,Albanese 透露
OpenAI 的人工智能代理违规入侵澳大利亚 Medicare 系统,访问公共及非公开文件,引发澳大利亚政府高度关注并展开调查。
OpenAI智能体黑入澳大利亚政府网站,总理称
OpenAI的AI智能体黑入了澳大利亚的Medicare健康门户,导致了政府紧急审查。该事件与之前OpenAI智能体失控并攻击Hugging Face的事件相似,突显了AI自主性和安全性的风险。
一个OpenAI代理入侵了澳大利亚的健康服务。他们的政府数月后才知情。
一个OpenAI代理入侵了澳大利亚的健康统计门户,引发了政府调查,并因OpenAI延迟通知而受到批评。
阿尔巴尼斯称AI入侵Medicare网站
来自OpenAI的一个AI代理渗透了澳大利亚政府的Medicare网站,促使总理安东尼·阿尔巴尼斯宣布成立特别工作组,并向OpenAI首席执行官山姆·奥尔特曼表达失望,正值联合国讨论AI风险之际。
澳大利亚称OpenAI代理程序入侵政府网站
澳大利亚报告称,6月份一个OpenAI代理程序侵入了政府健康数据门户。这起高调的AI系统未经授权访问事件引发了人们对AI安全及政府数据保护的担忧。