我三年前问过自己：“OpenAI 为什么能行动如此迅速？”并在当时写了一篇文章。当时 Applied 团队只有 130 人，OpenAI 的运作方式，对于今天大多数规模相近的初创公司来说，可能非常有参考价值：https://newsletter.pragmaticengineer.com/p/inside-openai-how-does-chatgpt-ship…

OpenAI 内部揭秘：ChatGPT 为何能如此快速发布？

来源：https://newsletter.pragmaticengineer.com/p/inside-openai-how-does-chatgpt-ship 👋 你好，我是 Gergely，这是 Pragmatic Engineer Newsletter 的订阅者专属刊。每期我都会从工程管理者和高级工程师的视角，剖析大型科技公司和初创公司面临的挑战。

OpenAI 可能是当下科技界最炙手可热的公司。这家公司开发了广受欢迎的大型语言模型产品 ChatGPT（https://openai.com/chatgpt），并构建了 GPT-3、GPT-3.5 和 GPT-4 模型，许多 AI 编程助手（如 GitHub Copilot）都在使用这些模型。该公司的首席执行官是 Sam Altman，他曾任 Y Combinator 总裁。

ChatGPT 于 2022 年 11 月推出，随即风靡全球。可以肯定地说，这个产品为应用型 AI 带来了最大的“惊叹”时刻，并且成为整个行业 AI 投资激增的催化剂。据首席执行官 Sam Altman 于 11 月 6 日宣布（https://techcrunch.com/2023/11/06/openais-chatgpt-now-has-100-million-weekly-active-users/），ChatGPT 的周活跃用户已突破 1 亿。从发布到达成这一里程碑，用时不到一年，这在前所未有地速度。

自去年问世以来，ChatGPT 似乎一直在以惊人的速度发布新功能：

• 2022 年 11 月：公开发布（确切地说是 2022 年 11 月 30 日）
• 2022 年 12 月：性能更新和对话历史记录
• 2023 年 1 月：停止生成功能，以及事实准确性更新（此时 ChatGPT 月活用户突破 1 亿）
• 2 月：ChatGPT Plus 上线，并推向国际
• 3 月：ChatGPT 中集成 GPT-4。发布插件。
• 5 月：网页浏览和插件进入测试版。共享链接插件，以及数据导出功能。
• 6 月：“浏览”功能。
• 7 月：自定义指令和代码解释器进入测试版
• 8 月：ChatGPT Enterprise 企业版。提示示例、多文件上传和自定义指令。
• 9 月：新的语音和图像能力。支持 10 种语言的 alpha 版本
• 10 月：可以上传 PDF 等文件，与之“聊天”。浏览功能退出测试版。
• 2023 年 11 月 6 日：在 OpenAI 首届开发者日（https://openai.com/blog/new-models-and-developer-products-announced-at-devday）上发布了一系列公告，包括 Assistants API、新模型、GPT 模型商店，以及数十项其他内容（https://techcrunch.com/2023/11/06/everything-announced-at-openais-first-developer-event/）。我们上周在 The Pulse（https://newsletter.pragmaticengineer.com/i/138735980/openai-is-shipping-at-breakneck-speed-and-wants-to-become-a-platform）中简要介绍了开发者日。

**那么，让 ChatGPT 团队能够如此快速迭代的工程文化究竟是什么？**好吧，除了 OpenAI 内部人士，没有人真正知道，因为该公司从未公开讨论过其软件工程实践——直到现在。

在这次与 Evan Morikawa（https://twitter.com/e0m）的独家访谈中，我们将了解这家科技界最炙手可热的公司如何把事情做成，并在创新前沿打造出成功的产品。Evan 负责带领构建 ChatGPT 的 130 人 Applied 工程团队中约一半的成员。你可以在 Twitter 上关注 Evan（https://twitter.com/e0m）。

我们聊了以下内容：

1. ChatGPT、Applied 团队和 Evan 介绍
2. 像独立初创公司一样运作
3. 与研究团队的紧密整合
4. 长期的产品和研究思维
5. 解耦、增量式的发布
6. 高人才密度
7. 日积月累的日常习惯
8. 未来之路

*本文是一篇工程文化深度剖析。欢迎阅读我们此前对其他公司的深度剖析（https://newsletter.pragmaticengineer.com/t/engineering-culture-deepdive），如 Figma、Linear、Amazon、Meta 或 Sourcegraph。

关于 OpenAI 的后续文章，请参阅《扩展 ChatGPT：五个真实世界的工程挑战》（https://newsletter.pragmaticengineer.com/p/scaling-chatgpt）。

那么，接下来交给 Evan。我的问题以斜体显示：

Evan，能请你介绍一下 OpenAI 和你自己吗？

OpenAI 是 ChatGPT 的开发者。希望你用过 ChatGPT 来学习新东西、辅助写作，或者只是为了好玩而和它聊天。ChatGPT 只是 OpenAI 的产品之一——OpenAI 还发布了 DALL·E 3（https://openai.com/dall-e-3）（图像生成）、GPT-4（https://openai.com/gpt-4）（一个先进的模型）以及 OpenAI API（https://openai.com/product）（开发者和公司可以用它将 AI 集成到业务中）。ChatGPT 和 API 各自暴露了多类模型，分别命名为 GPT-3、GPT-3.5 和 GPT-4。

负责构建并扩展这些产品的工程、产品和设计组织被称为“Applied”。OpenAI 的章程（https://openai.com/charter）是构建对全人类都有益的、安全的 AGI。Applied 的使命则是构建真正让 AI 对全人类有用的产品。Research（研究团队）训练大模型，然后 Applied 在这些模型之上构建像 ChatGPT 和 API 这样的产品。实际上，两者之间更像是一种紧密集成的来回协作，我稍后会详细说明。

Applied 团队是公司内部一个较新的部门。OpenAI 成立于 2015 年，Applied 则始于 2020 年夏天。我们组建这个团队，是因为当时我们想围绕 GPT-3（我们刚刚完成训练的模型）构建并扩展一个 API。

你是如何成为 OpenAI Applied 团队大部分成员的负责人的？

我于 2020 年 10 月加入 OpenAI。当时 OpenAI 总共有大约 150 名员工，而 Applied 团队只有几个人。那时，在 OpenAI 工作的人几乎都是研究人员。我没有机器学习方向的博士学位，但我意识到 OpenAI 正在构建 API 和工程团队，这让我非常兴奋。

在 OpenAI，我最初是 GPT-3 API 的一名个人贡献者，负责编写代码。2021 年 1 月，入职几个月后，我转岗去管理我们的 Applied 工程团队。当时我的团队大约有 6 个人。如今，两年半过去了，Applied 工程团队已经发展到 130 名工程师，其中大约一半由我管理。整个 Applied 部门大约有 150 人；另外 20 人是产品经理和设计师。

自 2020 年 10 月以来，OpenAI 已从大约 150 人发展到如今约 700 人。我们还在持续招人（https://openai.com/careers）。

OpenAI 是如何做到如此快速发布的？我感觉每隔一两个月就会有一个重大新功能推出。作为局外人，光是跟上节奏都很难！

一方面，这绝对是我职业生涯中节奏最快的地方（https://twitter.com/E0M/status/1707135602863534505）；但另一方面，这也并非魔法。我认为关键因素在于：

• 让 ChatGPT 像一个小型独立初创公司那样运作
• 与研究的紧密整合
• 长期的产品和研究思维
• 解耦、增量式的发布
• 高人才密度
• 日积月累的日常习惯

你提到 ChatGPT 是独立运作的。具体是怎么设置的？

ChatGPT 看起来、感觉起来、运作起来都像一个刚满一岁的初创公司，但 OpenAI 本身已经快 8 岁了。OpenAI 内部的 Applied 部门成立于 3 年前。ChatGPT 是 Applied 内部的一个产品团队，大约在 1 年前起步。

OpenAI 内部的 Applied 部门和 ChatGPT 我和 Applied 的其他领导层希望 ChatGPT 团队能感觉到自己是一个独立的初创公司。在实践中，这个目标涉及很多变化，并随着团队的成长而不断演进。

2022 年夏天，我们开始开发后来成为 ChatGPT 的产品。那时，Applied 大约有 30 名工程师、几位产品经理和设计师，并运营着以下产品：

• 面向 GPT-3 和 Codex 的 API
• 模型微调
• 嵌入 API
• DALL·E 2

所有这些产品都使用同一个代码库，运行在同一个集群中，并使用相同的构建流水线。在 Applied 内部，我们按职能结构组织；工程是一个统一的团队。

ChatGPT 改变了这一点。

一些 Applied 工程师、部分设计师、研究人员，以及 Greg Brockman（OpenAI 总裁兼联合创始人）聚在一个房间里，开始快速迭代产品创意。

我们给了这个新生团队自己的代码仓库和一个全新的集群。开发环境看起来就像一家初创公司或一个个人项目的早期阶段。

**我们这个小型的 ChatGPT 子团队的目标，就是营造一种早期初创公司寻找产品市场契合点（PMF）的氛围。**我们希望培养出实现这一目标所需的节奏、速度和自主性。团队的每个成员都在现场办公，我们重新调整了座位，让大家彼此相邻。

随着 ChatGPT 团队的发展，我们确保它保持垂直整合。这意味着工程、产品、设计和关键研究人员始终紧密合作。我们在 2023 年 5 月进一步固化这种模式，当时 Peter Deng（https://www.linkedin.com/in/peterxdeng/）加入，负责领导 ChatGPT 的工程、产品和设计，作为一个有凝聚力的整体。

我们之所以知道要用这种方式来组建 ChatGPT，是因为当 Applied 团队开始开发 OpenAI API 的第一个版本时，我们曾创建过类似的结构。三年前，我们也是从少数几个工程师、一个全新的仓库、一个全新的集群和绿地开发开始。我们也像一家寻找 PMF 的早期初创公司那样运作，并最终在 API 产品上找到了它。

**这种“分形初创公司”的做法，对于任何新产品类别来说，感觉都像是一个好模式。**我预计我们会继续应用这种模式，来快速迭代我们考虑探索的新想法。

与研究团队的紧密整合有多重要？为什么这么重要？

在大多数科技公司里，工程团队通常会与三个经典团队协作，简称“EPD”：

• 工程（Engineering）
• 产品（Product）
• 设计（Design）

这些团队往往会彼此深度协作，跨职能团队通常包含工程、产品和设计成员。

**研究团队被整合进产品团队，这一点非常关键。**与经典的“EPD”不同，我更愿意把我们紧密协作的单元称为“DERP”：

• 设计（Design）
• 工程（Engineering）
• 研究（Research）
• 产品（Product）

在 OpenAI，许多产品问题实际上都是研究问题。例如，下面这些问题，看似是功能需求：

• 如何让 ChatGPT 的输出更简洁？
• 如何让 ChatGPT 的回答更准确？
• 如何让 ChatGPT 连接到更多数据源？

虽然这些问题可能感觉像是产品问题，但实际上它们高度依赖于研究。底层模型如何针对目标进行微调或调整？我们还可以采用哪些其他方法来实现这些结果？

**研究人员与产品工程的整合，并非理所当然。**在 OpenAI，Research 和 Applied 是独立的组织架构。在 Research 组织内部，有各种不同的研究团队，例如：

• 预训练团队：负责训练 GPT-4 模型
• 后训练团队：负责微调 GPT-4
• Superalignment 团队（https://openai.com/blog/introducing-superalignment）：负责对齐 GPT-4
• 多模态团队：让 GPT-4 能看、能听、能说
• ……以及其他几个团队！

研究人员通常拥有深厚的学术或行业背景。他们会阅读大量学术论文以保持跟进。他们也会提出想法，并运行大量实验来改进我们的模型。他们都非常亲力亲为；研究人员做了大量工程工作，也写了大量代码！

**我们本可以选择一种“把模型扔过墙”交给 Applied 的方式。**这种设置意味着 Research 训练好模型，然后把它交给——也就是“扔过墙”——让 Applied 来产品化。然而，我们主动希望避免这样一种文化：Research 只专注于运行实验，而 Product 只想商业化赚钱。

为了防止这种情况，像 ChatGPT 这样的产品团队会让软件工程师、设计师、产品经理和研究人员一起工作。以 ChatGPT 为例，大多数研究人员来自一个我们称之为“后训练”的研究团队。这些研究人员精通最新的微调技术和强化学习（https://en.wikipedia.org/wiki/Reinforcement_learning）（RL）方法，比如近端策略优化（https://openai.com/research/openai-baselines-ppo）（PPO）。这些技术对于持续改进 ChatGPT 的底层模型是必要的。正因为这些研究人员是产品团队的一部分，并运行他们自己的 A/B 实验，研究团队和工程团队之间的反馈循环非常紧密。

**与研究团队的紧密耦合，是我们能如此快速发布新想法的原因。**我们是如何如此迅速地发布像浏览、代码执行、插件以及其他 ChatGPT 功能呢？正是因为紧密整合！所有这些最初都是研究想法，之所以能迅速部署到生产环境，是因为研究团队与工程团队紧密整合！此外，研究和应用部门都有一种动手尝试和制作原型的文化。很多原型很快就进入了生产环境。

长期思维是如何帮助提升执行力的？

OpenAI 的使命是确保通用人工智能（AGI）惠及全人类。我们所说的 AGI，是指在最具经济价值的工作上超越人类的高度自主系统。这一使命被写入了 OpenAI 章程（https://openai.com/charter）文件。章程文件更详细地反映了 OpenAI 的战略；例如，详细阐述了对长期安全的关注。

几乎每次全员大会都会提到我们的章程和使命。在产品讨论中，我们经常战术性地使用“这些选项中哪一个让我们离 AGI 更近”这句话——这指的是我们的使命。它不仅帮助决定要构建什么，而且我还见证了因为聚焦于使命，而决定不去构建某些东西的情况。

清晰的聚焦始终是提升速度的驱动力。我相信，我们宏大的使命帮助保持了这种聚焦，也为大量新想法铺平了道路。

另一件帮助我们的事情，是我们组织研究项目的方式：

Emily Forlini (@EmilyForlini)： OpenAI 为什么能行动如此迅速？

我是第一个在 [email protected] 上报道的人——这是 AI 时代的杰夫·贝佐斯式问号邮件。

它的运作方式如下。