以下是OpenAI的当前计划：

https://t.co/r29FUUee3A

造福大众：我们的计划

来源：https://openai.com/index/built-to-benefit-everyone-our-plan/ 每隔几代人，就会出现一项改变一切的新技术。

想象一下20世纪20年代电力抵达美国某个乡村小镇的情景。在电线杆架设之前，日常生活受限于物理条件：挑水、手洗衣物、用冰块保存食物，太阳下山后一天便基本结束。电力并没有在一夜之间改变每个家庭，其惠及面也并不均衡。但随着电力普及，普通人的生活发生了变化。夜晚的灯光延长了白天。电动水泵、电器和冰箱减轻了最繁重的日常劳作。收音机将数百英里外的新闻、音乐和联系带入家庭和社区空间。

电力的最初承诺是实用的，但其更深层的影响来自于它被更多人使用时开启的新可能性。随着时间的推移，大量新可能性涌现，机器和计算机极大地加速了医学、工程等多个领域的进步。到20世纪末，人类平均寿命延长了约23年，经通胀调整后的平均收入增长了约50%左右。这些成就很大程度上归功于医疗、卫生和生活水平的进步，其中许多进步都得益于广泛的电力化及相关技术发展。

这一幕正在AI领域重演。AI很快就能实现非凡的事情。但关键不在于技术本身，而在于人们能用它做什么。它可以帮人处理医疗账单、学习新技能、创办小企业、照顾年迈父母、理解法律或财务决策、将想法变成现实，或做出科学发现。

尽管夜晚灯光的奇妙可能很快就褪色了，但人们用它来做的事情却并未止步。由于技术一直是带来长期繁荣的可靠途径，我们认为AI应该让每个人都能按其需求、在任何地点、以任何方式自由使用。

这样的未来不会自动到来。变革性技术可能集中权力，也可能扩大权力。它们可能让少数人生活更轻松，也可能为多数人拓展机会。我们的方法根植于这样的信念：AI应该服务于人——帮助人们追求自身目标，增强他们的能力，并尽可能广泛地分配这项技术带来的益处。

我们的首要承诺是构建服务于人类的AI。这意味着我们希望广泛赋能人类，而不是让权力集中在少数公司、政府或个人手中。我们相信，更安全的未来是权力广泛分布的未来，这样世界上更多人能够参与构建韧性生态系统。*

我们之所以对AI持乐观态度，是因为相信它能扩展人类能力并带来繁荣。但我们也清醒地认识到风险。强大的系统必须保持安全，符合人类意图，并受人类控制。OpenAI的使命是确保通用人工智能（AGI）惠及全人类。这意味着要构建帮助人们自主选择的系统，而不是取代人类对重要事务的判断。

完全自动化一切并非我们想要的未来。那会令人空虚，而且危险。AI应该帮助人们追求目标，而不是脱离目标。随着AI系统能力增强，人的角色变得更加重要：设定方向、权衡取舍、运用判断力，并将价值观、品味、关怀和责任感融入工作。

人类的长期关键角色将是决定什么值得做。

我们相信，AI进行AI研究将在未来几年内成为决定进步速度的关键因素。这很重要，因为对齐本身就是一个艰难的研究问题。为了取得快速而深入的进展，我们的研究人员需要能够帮助测试想法、发现错误、探索替代方案并与我们一同迭代的AI系统。

但更快的技术进步使人类判断和公共协调变得更加重要，而非更不重要。未来应该由人类、机构和社会塑造，而不仅仅是由构建最强系统的公司塑造。

随着前沿AI的发展，我们预计国家和全球层面的协调将变得更加重要。我们长期认为最终应有一个国际组织来协调领先的AI工作，以降低灾难性风险。合作和共享安全标准是前进道路的重要组成部分，尤其是在商业和国家竞争的激励难以回避的情况下。这样一个组织的目标之一应该是让世界能够采取协调行动，包括在必要时放缓前沿发展，以便社会韧性、安全性和对齐性能够跟上步伐。

目前OpenAI有三个主要目标

构建一个自动化AI研究员——一个能够加速并逐步自动化研究过程的AI系统，同时保持可引导性、可问责性并与人类连接。我们内部的信念是，到2028年3月，我们可能已有相当一部分研究工作由AI系统与我们的研究人员协同完成。为了在对齐方面取得足够进展，我们认为需要AI与我们一同迭代。这将帮助我们驾驭后AGI世界的过渡，以便我们共同决定通往未来的道路。

加速经济发展，通过加速科学进步、生产力和经济增长，同时努力确保收益被广泛分享。每个人都应有机会分享AI创造的繁荣。

给地球上的每个人一个个人AGI，使他们能够以自己选择的方式受益于这一人类最具变革性的技术之一。

为了实现这一目标，我们正在进入OpenAI的第三个阶段。

OpenAI的第一阶段是进行AGI研究。第二阶段始于我们的研究变得与现实世界相关，我们成为了一家产品公司：部署系统，学习人们如何使用它们，并持续朝着安全且符合使命的AGI迈进。

现在我们正在进入第三阶段。经济正在围绕AI重塑。核心问题是如何让高级AI丰富、实惠、安全、有用且足够简单，让每个人和组织都能从中受益。前沿能力只是工作的一部分。更大的任务是将这种能力转化为人们实际可用的工具，以帮助他们蓬勃发展。

最重要的是，我们相信权力的广泛分布将有助于引领更美好的未来。人类历史表明，权力集中导致脆弱，而广泛共享的权力使社会更具韧性、适应性和自由。

这就是为什么可及性很重要。安全、隐私、可负担性、开放生态系统和公众监督也同样重要。

一个好的AI未来不能是少数机构控制大部分能力和大部分收益的未来。它应该是一个许多人、公司、社区和国家都能够构建、受益并掌握权力的未来。我们相信这一变革应该属于每个人。

如果我们做对了，AI可以成为更大生产力、创造力、科学进步和经济机会的基础，惠及大多数人，我们将实现我们的使命：确保AGI惠及全人类。

AI韧性指的是社会可以建立的集体组织、系统和个体，用以预测、抵御、适应并快速从AI驱动的干扰中恢复。例如，汽车改变了社会，但只有在社会围绕它们建立了系统——安全带、交通法规、驾照、碰撞测试和道路基础设施——后才变得广泛有益。目标不是阻止人们开车，而是让强大的技术具有足够的韧性以广泛使用。