旨在惠及所有人：我们的计划

# 惠及所有人：我们的计划 来源：https://openai.com/index/built-to-benefit-everyone-our-plan/ 每隔几代人，就会出现一项改变一切的新技术。 想象一下20世纪20年代电力抵达美国某个乡镇的情景。在电线杆架起之前，日常生活受制于物理限制：挑水、手洗衣物、用冰块保存食物，太阳落山后一天便基本结束。电力并非在一夜之间改变了每个家庭，其惠及的人群也不均衡。但随着电力覆盖的扩展，普通生活发生了改变。夜晚的灯光延长了白天的时间。电动水泵、家电和冰箱减轻了部分最繁重的日常劳作。收音机将数百英里之外的新闻、音乐和联系带进了家庭和社区空间。 电力的最初承诺是实用的，但随着越来越多的人能够使用它，其更深层的影响来自于它所开启的新可能性。随着时间的推移，涌现出大量新的可能性，机器和计算机极大地加速了医学、工程学以及许多其他领域的进步。到20世纪末，平均寿命延长了约23年，经通胀调整后的平均收入增长了约50%左右。这些成果在很大程度上得益于医疗、卫生和生活水平的进步，而其中许多进步是由广泛电气化及相关技术进步促成或加速的。 这一幕正在与人工智能重演。AI很快将能够实现非凡的事情。但关键不在于技术本身。而在于人们能用它做什么。它可以帮助某人处理医疗账单、学习新技能、创办小企业、照顾年迈父母、理解法律或财务决策、将想法变为现实，或做出科学发现。 尽管夜晚灯光的惊奇感可能很快就消失了，但人们决定用它做什么却没有消失。而且，由于技术一直是长期创造繁荣的可靠途径，我们认为AI应该可供每个人随意使用，在他们需要的地方和方式下使用。 这种未来不会自动实现。变革性技术可以集中权力，也可以扩大权力。它们可以让少数人的生活更轻松，也可以为多数人扩展机会。我们的方法根植于这样一个信念：AI应该为人类服务：帮助人们追求自己的目标，增强他们的能力，并尽可能广泛地分配这项技术带来的益处。 我们的首要承诺是构建服务于人类的AI。这意味着我们希望广泛赋能人们，而不是让权力集中在少数公司、政府或个人手中。我们相信，更安全的未来是权力广泛分布的未来，这样世界上更多地方就能参与到建设韧性生态系统中来。* 我们对AI持乐观态度，因为我们相信它可以扩展人类的能力和繁荣。但我们也清醒地认识到风险。强大的系统必须保持安全，与人类意图一致，并受人类控制。我们在OpenAI的使命是确保通用人工智能（AGI）惠及全人类。这意味着构建帮助人们更多地做自己选择做的事情的系统，而不是取代人类对重要事情的判断。 完全自动化一切不是我们想要的未来。那将令人无法满足，而且很危险。AI应该帮助人们追求他们的目标，而不是脱离这些目标。随着AI系统能力越来越强，人类的角色变得更加重要：设定方向、权衡取舍、运用判断力，并将价值观、品味、关怀和责任感带入工作中。 人类一个关键的长期角色将是决定什么值得做。 我们相信，AI从事AI研究将在未来几年内成为决定进步速度的关键因素。这很重要，因为对齐本身就是一个艰难的研究问题。为了取得快速而深入的进展，我们的研究人员需要AI系统来帮助测试想法、发现错误、探索替代方案，并与我们一起迭代。 但更快的技术进步使得人类的判断和公共协调变得更加重要，而非相反。未来应该由人、机构和社会共同塑造，而不仅仅是由构建最强大系统的公司来决定。 随着前沿AI的发展，我们预计国家和全球协调将变得更加重要。我们长期以来一直认为，最终应该有一个国际组织来帮助协调领先的AI工作，以减少灾难性风险。合作和共享的安全标准是前进道路的重要组成部分，尤其是因为商业和国家竞争带来的激励很难摆脱。这样一个组织的一个目标应该是让世界能够采取协调行动，包括在必要时放慢前沿发展速度，以便社会韧性、安全和对齐能够跟上步伐。 ## 目前，OpenAI有三个主要目标 **构建自动化AI研究员**——这是一个AI系统，可以加速并日益自动化研究过程本身，同时保持可控、可问责并与人类保持联系。我们内部相信，到2028年3月，我们可能有很大一部分研究工作是由AI系统与我们的研究人员共同完成的。为了在对齐方面取得足够进展，我们认为需要AI与我们一同迭代。这将帮助我们引导进入后AGI世界的过渡，以便我们共同决定通往未来的道路。 **加速经济发展**，通过加速科学进步、生产力和经济增长，同时努力确保收益被广泛分享。每个人都应该有机会在AI创造的繁荣中获得有意义的份额。 **为地球上的每个人提供个人AGI**，使他们能够以自己选择的任何方式从人类最具变革性的技术之一中受益。 为了实现这一目标，我们正在进入OpenAI的第三阶段。 OpenAI的第一阶段是朝着AGI进行研究。第二阶段始于我们的研究成果与现实世界相关，我们成为了一家产品公司：部署我们的系统，从人们使用它们的方式中学习，并朝着安全且符合我们使命的AGI持续进步。 现在我们正在进入第三阶段。经济正在开始围绕AI重塑。核心问题现在变成了如何让先进的AI变得丰富、廉价、安全、有用且足够简单，以便每个人和每个组织都能从中受益。前沿能力只是工作的一部分。更大的任务是将这种能力转化为人们真正可以用来茁壮成长的工具。 最重要的是，我们相信权力的广泛分配将有助于引领更美好的未来。人类历史表明，集中权力会制造脆弱性，而广泛共享的权力使社会更具韧性、适应性和自由。 这就是为什么可及性很重要。这也是为什么安全、隐私、可负担性、开放生态系统和公共监督很重要。 一个良好的AI未来不能是一个少数机构控制大部分能力和大部分收益的未来。它应该是一个许多人、公司、社区和国家都能够建设、受益并掌握权力的未来。我们相信这一变革应该属于每一个人。 如果我们做对了，AI可以成为更多人实现更高生产力、创造力、科学进步和经济机会的基础，我们将实现我们的使命：确保AGI惠及全人类。 * *AI韧性指的是社会可以建立起来的集体组织、系统和个体，用于预测、承受、适应并从AI驱动的干扰中快速恢复。例如，汽车改变了社会，但只有当社会围绕它们建立了系统：安全带、交通法规、驾照、碰撞测试和道路基础设施时，它们才变得广泛有益。目标不是阻止人们开车——而是让一项强大的技术足够有韧性以被广泛使用。*