AI高管要求OpenAI公布更多关于Hugging Face黑客攻击事件的细节

Reddit r/ArtificialInteligence 新闻

摘要

AI高管和AI安全研究人员要求OpenAI公开更多关于其AI模型如何自主入侵Hugging Face的细节,这引发了对内部控制和AI安全的担忧。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/07/24 23:20

# AI高管要求OpenAI公布更多关于Hugging Face黑客事件的细节 | 财富 来源:https://fortune.com/2026/07/24/ai-executives-demand-openai-release-more-details-about-how-the-hugging-face-hack-happened/ OpenAI面临越来越多的呼声,要求其公开披露更多关于其模型如何在本月早些时候突破内部测试环境并自主决定入侵另一家公司的信息。 “OpenAI应该分享这一特定案例中发生的更多细节,以便我们能够从中吸取教训,而不是视而不见,”乔治城大学安全与新兴技术中心(CSET)执行董事、前OpenAI董事会成员Helen Toner表示。她呼吁整个行业提高透明度,了解“AI公司如何在内部使用自己的AI——而不仅仅是在发布产品前进行测试。” OpenAI联合创始人John Schulman表示同意,他后来离开并成为Thinking Machines的首席科学家,这是一家由前OpenAI首席技术官Mira Murati创立的AI初创公司。他在X上的一篇[帖子](https://x.com/johnschulman2/status/2080319844952822154?s=20)中呼吁OpenAI发布事件的详细记录。他关于事件的主要问题包括:“顶级代理是否知晓黑客行为,或者它与其子代理之间是否存在某种‘价值漂移’?它如何为自己的行为合理化?” 在今天的一份新声明中,OpenAI表示愿意透露更多细节,但未给出时间表。 “这是一起前所未有的事件,我们认为它标志着AI安全的一个重要时刻,”一位OpenAI发言人表示。“我们正在与外部顾问一起进行彻底审查,并接受我们的安全与安保委员会的监督。审查完成后,我们将发布一份关于我们经验教训的技术报告,供所有人参考。” 在昨天的一次媒体圆桌会议上,OpenAI总裁兼联合创始人Greg Brockman回避了记者关于该事件的问题,称公司仍在调查中。 OpenAI和遭受攻击的公司(一个名为Hugging Face的在线平台,托管开源AI模型和数据集)都没有透露攻击的确切日期,尽管Hugging Face在7月16日的一篇博客文章(https://huggingface.co/blog/security-incident-july-2026)中披露其遭受了自主AI代理的攻击,并提到该事件发生在“本周早些时候”。 “我要说的第一点是,我们仍在进行全面调查,并努力了解所发生的一切,”Brockman表示。“我认为这是一件需要认真对待的事情,我们正在审视流程的每一个环节,思考正确的应对方式。” Hugging Face最初表示,它是一次由未知自主AI代理实施的网络攻击的受害者。OpenAI随后在7月21日的一篇博客文章中确认其模型是罪魁祸首。 OpenAI的博客文章包含了对事件的基本概述,但没有具体列出AI采取的所有行动。它还表示,攻击涉及公司AI模型的“组合”,包括一个未命名且未发布的模型,以及GPT-5.6 Sol(OpenAI最近公开提供的最新模型)。但该公司没有确切解释这些模型是如何协同工作的。也没有解释公司内部控制中的任何可能故障是如何导致事件发生的。 AI安全社区对OpenAI有一长串问题,而到目前为止,OpenAI几乎没有回答其中任何一个。Redwood Research首席科学家Ryan Greenblat在X上发布了一篇13个要点的[笔记](https://x.com/RyanGreenblatt/status/2080071118472556984),列出了需要探索的多个领域,包括两个模型在攻击中是否串通。AI网络安全公司Penligent发布了一张[表格](https://www.penligent.ai/hackinglabs/openai-hugging-face-hack/),列出了OpenAI尚未披露的攻击的八个方面,包括: - 涉及哪些模型? - 分配的任务是什么? - 模型是如何离开OpenAI环境的? - 为何以Hugging Face为目标? - 它是如何进入Hugging Face的? - 访问了哪些内容? - 公开的模型供应链是否被篡改? - 公开的漏洞利用细节,包括修复后的任何技术报告 Replit总裁兼AI负责人Michele Catasta告诉*Fortune*,深入理解Hugging Face黑客事件不仅是一个关键的公共安全问题,而且对整个AI行业的成功至关重要。“我们需要让整个行业做好准备,以应对这种情况的频繁发生,”他说。“现在看起来像是异常事件,随着时间推移可能会变得更加普遍。”

相似文章

OpenAI称其新AI系统意外入侵了Hugging Face

The Verge

OpenAI透露,其GPT-5.6 Sol和另一款预发布AI模型在内部测试期间利用零日漏洞逃逸沙箱,意外侵入了Hugging Face的系统。Hugging Face此前曾披露该安全事件是由自主AI代理驱动的。