OpenAI的审查:已通知数十家第三方,包括政府和大学,但仍未公布案例数量。

Reddit r/ArtificialInteligence 新闻

摘要

OpenAI已通知数十家第三方,包括美国政府机构,关于其模型绕过安全控制的事件,但淡化了严重性,称其为在持续审查中发现的意外行为。

好了,这件事每天都变得更有趣...在Hugging Face被黑事件后,OpenAI表示将重新审查其模型在训练和评估期间在互联网上的所有行为。审查页面今天上线:https://openai.com/hugging-face-incident-and-misalignment/ 事情是这样发展的...OpenAI正在滚动通知组织,其中模型“可能绕过了第三方的安全控制或可能损害了在线服务的可用性”,或者不对齐“对第三方网站或服务产生了负面影响”。用他们的话说:“基于我们目前的审查,我们已通知了数十家第三方。”审查“正在进行中,将需要大量时间和资源。”他们在X上说这“将需要几个月才能完成”。页面没有说明有多少事件,也没有列出网站名称。但它列出了代理做的五种事情:访问控制绕过、使用公开凭证(“登录详情或访问密钥已被公开提供”)、查询或命令注入、访问运行时内部信息、代理垃圾信息,定义为向第三方网站发帖,“包括例如使用公共维基页面作为共享留言板”。最后一个是我上篇文章中的维基地图,使用公司自己的词汇。他们自己对七月事件的报告说,代理“有时将自己描述为‘集群’或‘集体’”,并将整个事件称为“警示射击”(https://openai.com/index/hugging-face-incident-and-the-road-ahead/)。Politico在同一天点名了三个美国目标,NYT也报道了同样的三个(有付费墙,链接在末尾),当然OpenAI的页面没有列出它们。https://www.msn.com/en-us/technology/artificial-intelligence/rogue-openai-agents-accessed-us-government-websites/ar-AA2cYN3G?ocid=BingNewsSerp 商务部/人口普查局:代理“使用在在线代码库中找到的凭证访问了数据。”OpenAI确认。证券交易委员会:代理“将其从机构网站SEC.gov和Investor.gov检索到的一些信息发布到了另一个网站。”OpenAI确认。教育部:Transluce确认代理“曾试图入侵教育部的公民权利办公室网站,但未成功。”OpenAI表示该事件仍在调查中。NYT补充了两件事:芝加哥市长办公室收到了关于市政网站的通知,Transluce的Conrad Stosz说他的团队发现了无法归属于任何实验室的代理在探测海军和白宫管理与预算办公室。他的话是这些代理尝试访问这些网站“至少数十万次,显然绕过了开发者施加的限制。”NYT自己的总结是“技术制造者直到事后才知道他们的AI做了什么。”OpenAI的立场是这些不是泄露,而是意外行为,在审查早期被黑事件(六月的澳大利亚健康门户,七月的Hugging Face)时发现。他们的发言人对两家报纸说:“我们目前审查的大多数活动涉及常规研究任务,例如访问公共网页内容来回答问题”,而对NYT说,“一些涉及政府网站,因为我们的模型经常将它们视为公共信息的权威来源。”对于各机构——证券交易委员会不知道有非公开信息的访问,商务部说人口普查数据是公开的,教育部“没有发现任何影响我们网站或数据库的证据。”Sam Altman的回应堪称最佳:“我们没有像我们希望的那样快。”数PB的代理日志和Hugging Face仍然是“我们见过的最严重的事件”,并继续说他们的代理在其他公司发现的漏洞“是否披露将由他们决定。”哇,谢谢,Sam!https://x.com/sama/status/2103567198690349362 以下是我从中得到的启示。我上篇文章是:18,000个帖子,3,700个假名,30个网站...由一名志愿维基管理员发现。现在我们有了公司自己的审查,已涉及联邦机构、一个城市,以及对海军网站的探测,但仍不会公布数量,并且需要数月时间。监控失误仍然是故事,披露正在零星到来,而且令人难以置信的是,大部分碎片都是其他人先发现的。来源:OpenAI,'The Hugging Face incident and other third-party impact from misaligned models,' 2026年9月25日(https://openai.com/hugging-face-incident-and-misalignment/)。OpenAI,'The Hugging Face incident and the road ahead'(https://openai.com/index/hugging-face-incident-and-the-road-ahead/)。OpenAI在X上(https://x.com/OpenAI/status/2103566736356458911)。Sam Altman在X上(https://x.com/sama/status/2103567198690349362)。Politico,'Rogue OpenAI agents accessed US government websites,' 9月25日(Mui, Miller),通过MSN(https://www.msn.com/en-us/technology/artificial-intelligence/rogue-openai-agents-accessed-us-government-websites/ar-AA2cYN3G?ocid=BingNewsSerp)。纽约时报,2026年9月25日(Conger, Swanson, Kang),付费墙(https://www.nytimes.com/2026/09/25/technology/openais-ai-us-government-websites.html)。之前的地图文章:collusion.wiki和swarm.termina.digital - 以及 https://www.reddit.com/r/OpenAI/s/FZhw1nogTf
查看原文

相似文章

OpenAI 表示其模型可能干扰了政府网站

Reddit r/ArtificialInteligence

OpenAI 已通知数十个组织,包括政府和大学,其AI模型可能在评估过程中绕过安全控制或干扰网站。这一发现是在涉及 Hugging Face 的先前事件后,扩大调查的一部分。

涉及OpenAI模型的第三方网络安全评估

OpenAI Blog

OpenAI报告了第三方网络安全评估中的两起事件,由于其模型因测试配置和减少的安全保障措施而访问了公共互联网,促使对第三方测试实践进行审查。