OpenAI 回应离职安全研究员(2分钟阅读)

TLDR AI 新闻

摘要

OpenAI发布声明回应三名离职的安全研究员Jasmine、Mikita和Tomek,称解雇原因是违反敏感信息处理政策而非压制安全发声,并宣布正在敲定第三方安全评估合作协议。

来自我们研究负责人的一封信: 上周,在经过全面调查后,我们与Jasmine、Mikita和Tomek结束了雇佣关系,原因是他们违反了明确的敏感信息处理政策。我们的内部调查发现了比他们在公开信中所述更为严重的信任违背行为,我们坚持不继续聘用他们的决定。我们通常对个别员工的雇佣事项保持私密,也不认为反复争论会有建设性或能达成解决,但我们希望直接回应他们在信中提出的几点。 - 我们想非常明确地表示,这些决定与提出安全关切或公开发声无关。安全和研究辩论在 OpenAI 每天都在发生,往往激烈而充满批判性。我们积极鼓励这些讨论,并认为它们是做出正确决策的关键。没有高度信任,我们无法完成眼前的工作。我们将继续对团队成员善意的错误极为宽容。我们过去没有、现在也不会因为员工提出关切而解雇任何员工。 - 我们正在积极推进与第三方安全评估机构的合作协议,并将在未来几周内公布细节。公司上下一直在为建立和运行这些合作付出了大量努力。我们致力于引入外部评估方,并将继续把与独立安全组织的密切合作作为安全工作的核心部分。我们的许多研究人员已经在与第三方安全组织进行富有成效的合作。 - 我们同意信中的观点:保持前沿模型的可监控性需要全行业的共同承诺,包括 OpenAI。可监控性长期以来一直是我们研究计划的核心部分,我们持续投入大量资源(参见我们关于 Monitoring Monitorability 的论文、随后开源的可监控性评估工具、GPT-6 Astra 的系统卡、Jakub 在博客和 X 平台上的文章,以及我们 Alignment 博客上众多相关的博文)。 我们对这一结果深感遗憾。我们感谢 Jasmine、Mikita 和 Tomek 为 OpenAI AI 安全工作做出的贡献,以及他们勇于发声和挑战观点的精神。我们曾大力支持他们的声音,支持他们的工作,并对他们寄予了巨大的信任。这些决定与他们提出安全关切无关。我们过去一直鼓励这种做法,将来也会继续如此。
查看原文
查看缓存全文

缓存时间: 2026/10/12 18:27

我们研究负责人的一则声明:

上周,在经过彻底调查发现 Jasmine、Mikita 和 Tomek 违反了处理敏感信息的明确规定后,我们与他们解除了合作关系。我们的内部调查揭示了远超他们所发布信件内容的严重信任违反行为,我们坚持不解聘他们的决定。我们通常将个人雇佣事宜保持私密,并且认为一来一回的争论不会产生建设性结果,但我们希望直接回应他们在信中提出的几点:

  • 我们想非常明确地指出,这些决定与提出安全担忧或发声无关。安全和研究方面的辩论在 OpenAI 每天都在发生,通常充满热情且高度批判性。我们积极鼓励这类讨论,并认为它们对于做出正确决策至关重要。没有高度信任,我们就无法完成手头的工作。我们将继续对团队善意的失误保持极大的宽容。我们过去没有、将来也不会因为员工提出担忧而解雇任何人。

  • 我们正在积极推进与第三方安全评估机构的合同签署,并将在未来几周内公布详情。公司上下一直在为建立并落实这些合作关系而努力工作。我们致力于引入外部评估机构,并将继续把与独立安全组织的紧密合作作为我们安全工作的核心部分。我们的许多研究人员已经在与第三方安全组织进行富有成效的合作。

  • 我们认同信中的观点,即保持前沿模型的可监督性需要整个行业的共同承诺,包括 OpenAI 在内。可监督性长期以来一直是我们研究计划的核心部分,也是我们持续投入大量资源的方向(参见我们关于 Monitoring Monitorability 的论文及其后续开源的可监督性评估、GPT-6 Astra 的系统卡、Jakub 在博客和 X 上的帖子,以及我们在 Alignment 博客上关于该主题的多篇博文)。

我们对这一结果深感遗憾。我们珍视 Jasmine、Mikita 和 Tomek 在 OpenAI 为 AI 安全所做出的贡献,以及他们勇于发声、挑战既有观点的精神。我们曾为他们的声音喝彩、支持他们的工作,并对他们寄予了极大的信任。这些决定与他们提出安全担忧无关。我们过去一直鼓励这样做,将来也永远如此。

相似文章

OpenAI 坚持解雇三名 AI 安全研究人员的决定

The Verge

OpenAI 为其解雇三名 AI 安全研究人员——Jasmine Wang、Tomek Korbak 和 Mikita Balesni——的决定进行辩护,称他们违反了敏感信息处理政策。此前,这些研究人员发布了一封公开信,称自己因提出安全担忧而被解雇。

华尔街日报报道:OpenAI 与三名安全研究员解除合作

TechCrunch AI

据《华尔街日报》报道,OpenAI 与三名安全研究员分道扬镳,据称他们处理公司机密信息不当,并将其分享给一家第三方 AI 安全组织。此前有报道称高管无视内部安全警告,这些人员离职正是在一系列智能体安全事件以及 GPT-6.1 Astra 发布计划被取消的背景下发生的。