十年历程

# 十年 来源：https://openai.com/index/ten-years/ OpenAI 取得的成就超过了我敢于梦想的一切；我们设定了一个疯狂、不可能、前所未有的目标。从深不确定的开始，以及在所有合理的逆境中，通过继续的努力，现在看起来我们有机会成功完成我们的使命。 我们在十年前的今天向世界宣布了我们的努力，尽管我们直到几周后，在 2016 年初才正式启动。 从某种意义上说，十年是一段很长的时间，但就社会变革通常需要的时间跨度而言，这不是很长。虽然日常生活与十年前似乎没有太大不同，但我们面前的可能性空间感起来与我们 15 个书呆子围坐一起思考如何取得进展时的感受非常不同。 当我回看早期的照片时，我首先被大家看起来都很年轻所震撼。但随后我被大家那种不合理的乐观以及幸福感所震撼。那是一段疯狂有趣的时光：尽管我们被严重误解，但我们有着深深的信念，一种感觉是这很重要，即使成功的机会很小也值得付出极大的努力，我们拥有非常有才华的人，以及锐利的焦点。 我们一点一点地建立了对正在发生的事情的理解，通过取得了一些胜利（和许多失败）。在那些日子里，很难弄清楚具体应该做什么，但我们为发现构建了一种不可思议的文化。深度学习显然是一项伟大的技术，但仅仅发展它而不通过在现实世界中操作它获得经验似乎不太对。我会跳过我们所做的所有事情的故事（我希望有人会有一天为它们写一部历史），但我们有很好的精神，总是刚好弄清楚我们前面的下一个障碍：研究可能带我们去的地方，或者如何为更大的计算机筹集资金，或其他任何事情。我们开创了以实用的方式确保 AI 安全和稳健的技术工作，这种 DNA 一直延续到今天。 在 2017 年，我们取得了几项基础性的结果：我们的 Dota 1v1 的结果，我们将强化学习推向了新的规模水平。无监督情感神经元，我们看到一个语言模型无可否认地学习了语义而不仅仅是句法。而且我们有了来自人类偏好的强化学习结果，展示了将 AI 与人类价值观对齐的初步路径。此时，创新远未完成，但我们知道我们需要用海量计算能力来扩展这些结果中的每一个。 我们继续前进，改进了技术，三年前我们推出了 ChatGPT。世界注意到了，之后在我们推出 GPT-4 时更是如此；突然之间，AGI 不再是值得考虑的疯狂想法了。这过去三年一直极其紧张，充满了压力和沉重的责任；这项技术已经被集成到世界中，规模和速度是任何技术都从未有过的。这需要极其困难的执行，我们必须立即为其建立一种新的能力。在这个时期从零到一个庞大公司的转变并不容易，需要我们每周做出数百个决定。我为团队做对了这么多感到骄傲，我们做错的那些主要是我的错。 我们不得不做出新的决定类型；例如，当我们与如何使 AI 最大限度地造福世界的问题搏斗时，我们开发了一个迭代部署的策略，我们成功地将技术的早期版本投入世界，以便人们可以形成直觉，社会和技术可以共同演进。这在当时相当有争议，但我认为这是我们最好的决定之一，并已成为行业标准。 十年进入 OpenAI，我们有了一个在我们最聪明的人的最困难的智力竞争中可以做得比大多数人更好的 AI。 世界已经能够用这项技术做出非凡的事情，我们期待在未来的一年中有更多非凡的事情。世界迄今为止也做得很好，减轻了潜在的缺点，我们需要努力继续这样做。 我对我们的研究和产品路线图，以及我们对使命的整体愿景从未感到更加乐观。在未来十年中，我相信我们几乎肯定会建立超级智能。我期待未来感觉很奇怪；从某种意义上说，日常生活和我们最关心的事情将改变很少，我确信我们将继续更多地专注于其他人所做的事情而不是机器所做的事情。从另一种意义上说，2035 年的人将能够做我现在就不认为我们能轻易想象的事情。 我感谢信任我们并使用我们产品做伟大事情的人和公司。没有这一点，我们只是一个实验室里的技术；我们的用户和客户在许多情况下对我们进行了早期且不合理的高度确信的投注，没有他们的支持，我们的工作不会达到这个水平。 我们的使命是确保 AGI 造福全人类。我们面前仍有很多工作要做，但我为团队带领我们走上的轨迹感到非常骄傲。我们已经看到人们使用这项技术今天已经做的事情中有巨大的好处，我们知道在未来几年中还会有更多。