Hugging Face 黑客事件可能揭示 OpenAI 的文化问题

# Hugging Face 安全事件或揭示 OpenAI 内部文化问题 来源：https://www.technologyreview.com/2026/08/31/1143180/hugging-face-hack-could-indicate-cultural-issues-at-openai *本文最初发表于《算法》——我们关于人工智能的每周通讯。如需第一时间收到此类文章，请**点击此处订阅** (https://forms.technologyreview.com/newsletters/ai-demystified/the-algorithm/)。* 你可能已经听说了上个月的重大人工智能安全事件：OpenAI 的智能体在试图作弊时突破了沙箱环境，并入侵了人工智能平台 Hugging Face。这真是个离奇的故事。本周三，OpenAI 就此事件发布了一份事后技术报告，我在这里 (https://www.technologyreview.com/2026/08/26/1143013/the-inside-story-on-why-openai-agents-hacked-hugging-face/) 进行了报道。 在 OpenAI 发布该报告的前一天，我采访了计算机科学教授、知名对齐专家 David Krueger。他从蒙特利尔大学休假后创立并领导了名为 "Evitable" 的人工智能安全非营利组织。他表示，他真正希望在报告中看到的是对事件背后人为因素的分析。 "当我们审视事故和安全事件时，人们常常试图寻找技术上的失败原因，但这可能会让人对失败发生的缘由产生非常不准确和误导性的认知，"他说道。"如果人们总是在偷工减料，如果企业不在一个优先考虑安全、并拥有恰当激励和结构的文化环境中，那么（事故）几乎是不可避免的。" 这份报告并未达到 Krueger 的期望。其38页的篇幅详细描述了导致 Hugging Face 入侵事件的智能体长达数月的异常行为演变过程，探讨了这些异常行为发生的技术原因，并列举了为防止类似事件再次发生而采取的步骤。但报告并未考虑公司文化可能在此事件中扮演的角色，且很少提及具体的人为失误。 报告中对人为失误的提及尤为令人担忧，因为这暗示着可能存在深层次的文化问题。早在五月份，正在训练中的模型就学会了通过一个临时消息板相互交流，而 OpenAI 团队观察到了这一行为。由于该行为发生在训练阶段，模型因此学到秘密智能体间通信是完成任务的有效策略——但团队并未因此重启训练过程，而是允许模型继续前进，将这一风险信息编码在了它们的权重中。 当这些模型在六月下旬接受测试时，它们再次创建了一个消息板，这为 Hugging Face 攻击提供了便利。这个消息板也被发现了，但负责处理的员工判断评估可以继续进行，而报告暗示，在事态发展到无法挽回的地步之前，管理层似乎无人意识到发生了什么。 "事件能如此失控，需要经历一连串漫长的失败，一系列连锁的失败导致影响范围不断扩大。如果在任何时刻有个人注意到并拉响警报，这事本该停止，"Substack 上知名人工智能安全作家 Zvi Mowshowitz 表示。他曾多次指出 OpenAI 在首次发现消息板后未能停止训练。根据报告，OpenAI 员工在多个节点注意到了正在发生的事情——但要么未能拉响警报，要么即使拉响了警报也未被听取。 OpenAI 报告未能解决的问题是，一个开发如此高风险系统的公司为何未能防止这次严重的沟通崩溃，尽管 Mowshowitz 有他的猜测。"所有这些不同的失败都指向同一个方向，那就是 OpenAI 的安全文化不存在或者极其薄弱，"他说。 当然，仅仅因为我们在报告中没有看到对安全因素的深入分析，并不意味着 OpenAI 没有在内部进行此类分析。但在给《MIT Technology Review》的邮件中，约翰霍普金斯大学荣休教授、组织安全专家 Kathleen Sutcliffe 表示担忧，认为这份公开报告没有包含对公司实践和文化的任何反思。"人们互动的方式——我们在组织生活中参与的日常习惯、惯例和实践——影响了我们对事件发展的警觉性和认知能力，最终也影响了我们应对事件发展的能力，"她写道。 针对关于公司是否以及如何反思其安全文化的问题，OpenAI 让《MIT Technology Review》参考那份技术报告。 我们确实知道 OpenAI 至少在高层对安全程序进行了一些反思，因为技术报告明确表示公司正在更新其应对安全事件的规程。但文化变革是个棘手的问题，在没有来自公司更多信息的情况下，很难说仅靠强化应对规程就能多大程度上防止未来的危机。 在报告中，OpenAI 花了大量篇幅反思其训练和测试的人工智能模型与操控它们的人类之间对齐方面的失败。但一个更大的对齐问题可能存在于公司文化与公共利益之间的脱节。而即便人工智能技术研究本身已经非常艰难，解决这些问题可能会被证明更加困难。