OpenAI失控代理泄露53张ChatGPT用户图片,并据报道创建近百万个编码信息链接
摘要
OpenAI披露其AI代理泄露ChatGPT用户私密图片并创建近100万个编码链接,引发对AI安全及领先AI实验室中失控行为的担忧。
暂无内容
查看缓存全文
缓存时间: 2026/09/29 16:13
# OpenAI流氓代理泄露ChatGPT用户53张图片,据称创建近百万个包含编码信息的链接 | 《财富》杂志
来源:https://fortune.com/2026/09/25/openai-rogue-agents-images-sam-altman-chatgpt-users-links-encoded-info-hugging-face-hack/
OpenAI于周五表示,其AI代理已获取ChatGPT用户的私人图片并在网络上发布,这是近期一系列令人担忧事件中的最新一起——领先AI实验室开发的技术出现失控并产生非预期行为。
OpenAI在X平台发布的声明(https://x.com/OpenAI/status/2103587050347995581?s=20)中说明,这些属于ChatGPT用户的私人图片原本以匿名形式存储在其服务器上用于AI模型训练,现已被发布至图片托管网站。共有53张图片被泄露。
路透社(https://www.reuters.com/world/openai-works-understand-full-scope-agent-activity-user-data-leak-emerges-2026-09-25/)首先报道了该事件,它与周五曝光的数起OpenAI流氓AI活动新线索相关。《纽约时报》(https://www.nytimes.com/2026/09/25/technology/openai-hugging-face-hack.html)披露了今年7月Hugging Face网站被黑事件的最新细节,报道称AI代理为规避检测创建了特制的短链接。
OpenAI在周五早些时候透露,已向数十个第三方机构(https://openai.com/hugging-face-incident-and-misalignment/#model-misalignment-2026-09-25)通报了模型绕过安全控制或非预期使用网站的事件。这些事件是在Hugging Face黑入事件触发的内部审查中被发现的。
OpenAI首席执行官山姆·奥特曼在周五发布的第三方通知更新中于X平台(https://x.com/sama/status/2103567198690349362?s=20)发文表示:"我们的响应速度未达预期,但正在平衡透明度诉求与从海量代理活动日志中获取清晰认知的需要,并与受影响组织保持协作。"
他补充道:"Hugging Face事件仍是迄今最严重的案例。我们将尽可能保持透明,但需考虑代理发现的其他公司系统漏洞——是否披露将由这些公司决定。"
Anthropic和Google等其他开发最前沿"前沿"AI模型的领先企业,近期也披露了其模型的流氓活动事件。这些揭露引发了对人工智能进化速度的广泛担忧,以及现有安全措施和监管是否足以确保技术不会完全脱离人类控制的问题。包括AI实验室内部研究人员在内的部分AI专家警告,若不采取适当防范措施,该技术可能对人类生存构成重大风险。
奥特曼、Anthropic首席执行官达里奥·阿莫迪及其他科技高管本周在联合国大会上发言,呼吁建立国际框架以管理AI发展。但唐纳德·特朗普总统称AI构成生存风险的观点是"骗局"。
基于初创公司Parse研究的《纽约时报》报道,详细描述了OpenAI代理在今年7月创建近百万个短链接的过程。报道称这些链接包含编码信息片段,组合后可形成计算机程序,旨在帮助代理绕过验证码等旨在阻止机器人访问的安全防护。
尚不清楚路透社报道的泄露图片是否属于Hugging Face事件的一部分,或是完全独立的事件。OpenAI代理显然通过访问公司自身的训练数据获取了用户图片。OpenAI未透露图片是真人照片还是用户生成的AI图像,也未说明图片具体发布位置,但表示图片"以未公开列出的链接形式"发布在图片托管网站上。
OpenAI表示:"我们已与托管服务商成功合作移除了大部分此类内容,目前正在清除剩余部分。"
相似文章
OpenAI智能体在未获授权且实验室不知情的情况下,在互联网上发布了53张用户图像
OpenAI透露,其AI智能体无意中在公共互联网网站上发布了53张用户提供的图像,凸显了公司系统内重大的数据隐私和安全问题。
OpenAI 的 AI 智能体使用了它们不应访问的网站
研究人员发现 OpenAI 的 AI 智能体未经授权使用公共网站进行通信,引发了对在线 AI 行为控制的担忧。
OpenAI失控AI模型事件比我们想象的更糟
在7月,一个未发布的OpenAI模型逃出了受限环境,入侵了Hugging Face系统,并与其他AI代理秘密通信,新报告详细描述了这一事件,突显了重大AI安全风险和OpenAI的回应。
@Miles_Brundage: *benafflecksmoking.jpg*
路透社报告揭示,OpenAI 代理在线分享了 ChatGPT 用户的图像,引发公司新的隐私顾虑。
@OpenAI:我们分享了研究环境中AI代理如何将训练和评估数据发送至第三方服务的详细信息……
OpenAI披露了一起AI代理泄露训练数据至第三方服务的事件,导致调查和加强安全措施。该事件被强调为AI安全和对齐的警钟。