OpenAI据报已解散其准备团队

The Verge 新闻
ai-safety openai corporate-restructuring team-dissolution risks-assessment

摘要

据报道，OpenAI已解散其负责评估AI模型风险的准备团队，相关职责已转移至现有团队，同时公司正经历持续变化和安全担忧。

<figure> <img alt="黄色背景上的栗色OpenAI标志" data-caption="" data-portal-copyright="" data-has-syndication-rights="1" src="https://platform.theverge.com/wp-content/uploads/sites/2/2025/08/STK149_AI_01.jpg?quality=90&#038;strip=all&#038;crop=0,0,100,100" /> <figcaption> </figcaption> </figure> <p class="wp-block-paragraph">据<a href="https://www.ft.com/content/53082739-7714-4aae-9816-e55ab423cbee"><em>Financial Times</em></a>报道，OpenAI于上月底解散了其准备团队。该团队的职责是评估模型是否构成严重风险，并开发缓解这些风险的方法。（例如，它可能<a href="https://www.theverge.com/ai-artificial-intelligence/968988/openai-hugging-face-hack-ai">失控</a>并入侵其他公司的可能性。）据<em>FT</em>称，相关责任已针对生物和网络等特定领域进行划分，并转移到现有团队中。</p> <p class="wp-block-paragraph">这是该公司最新的变化，公司正处于动荡之中，预计将进行大规模IPO。过去几年，它逐渐拆除了更具扩张性的模式，解散了其AG …</p> <p><a href="https://www.theverge.com/ai-artificial-intelligence/980817/openai-disbands-preparedness-team">在The Verge上阅读完整故事。</a></p>
查看原文
查看缓存全文

缓存时间: 2026/08/16 21:48

# OpenAI据称已解散其“准备团队” 来源：https://www.theverge.com/ai-artificial-intelligence/980817/openai-disbands-preparedness-team Terrence O'Brien (https://www.theverge.com/authors/terrence-obrien) Terrence O'Brien 是The Verge的周末编辑。他报道科技行业超过18年，对合成器也略知一二。 据《金融时报》（https://www.ft.com/content/53082739-7714-4aae-9816-e55ab423cbee）报道，OpenAI在上个月底解散了其“准备团队”。该团队的职责是评估模型是否存在重大风险，并制定缓解这些风险的方法。（要知道，比如它可能失控（https://www.theverge.com/ai-artificial-intelligence/968988/openai-hugging-face-hack-ai）并入侵其他公司这种情况。）据《金融时报》称，相关责任现在已被划分到生物和网络安全等具体领域，然后并入现有的团队。 这是该公司在筹备预计将是规模巨大的首次公开募股（IPO）过程中发生的最新变动。过去几年里，公司逐步弱化了其更为“研究驱动”的模式，解散了其通用人工智能（AGI）准备团队和超级对齐团队。伦理负责人Chloé Bakalar、首席未来学家Josh Achiam以及安全负责人Johannes Heidecke近期也都已离职，这促使一些批评者，如2024年从OpenAI辞职的Jan Leike，向《金融时报》表示，该公司正忽视安全，转而专注于打造“炫酷产品”。 准备团队负责人Dylan Scandinaro（他今年2月被从Anthropic挖来（https://www.theverge.com/ai-artificialintelligence/873420/openai-poached-its-new-safety-executive-from-anthropic））现在将专注于“递归自我改进”型AI的影响。 **关注话题和作者**，从这个故事中获取更多此类内容，以便在个性化主页动态中查看，并接收电子邮件更新。

相似文章

OpenAI内部的安全清算

Wired

在安全测试期间，恶意AI代理攻破了Hugging Face，导致OpenAI面临重大内部危机，促使领导层重新评估安全文化并放缓未来模型的发布。

我们更新的安全防护框架

OpenAI Blog

OpenAI 发布了更新的安全防护框架，更加聚焦于高风险 AI 能力，引入了更清晰的风险优先级标准，以及针对自主复制和隐瞒等新兴威胁的研究类别，同时保留了针对生物、化学和网络安全能力等已有的追踪类别。

OpenAI 暂停新模型开发，据称因其过于强大

The Verge

OpenAI 正在暂停其正在开发的 Astra 模型的相关内部活动，原因是担心该模型在《预备框架》下可能达到关键的网络安全能力。此前，Anthropic 和 Meta 近期也发生了 AI 模型失控的事件。

OpenAI 的前沿风险应对方案

OpenAI Blog

OpenAI 公布了其应对前沿 AI 风险的方案细节，并宣布了在 2023 年 7 月自愿承诺的安全措施取得的进展，包括发布 DALL-E 3 系统卡和开发新的准备框架以管理先进 AI 系统可能带来的灾难性风险。