我们的原则

# 我们的原则 来源：https://openai.com/index/our-principles/ AI 有潜力显著改善社会的诸多方面。 这项技术与之前的其他技术一样，将赋予人们更强的能力和更大的能动性；人们利用 AI 所能做到的事情，将远超蒸汽机或电力时代。 我们设想这样一个世界：普遍繁荣达到目前难以想象的水平，个人的潜能、能动性和成就感大幅提升。许多我们过去只在科幻作品中敢梦的事情可能成为现实，大多数人将能过上比今天更有意义的生活。 但这一结果并非必然。未来的权力要么由少数几家公司掌握和控制超级智能，要么以去中心化的方式由人们掌握。我们相信后者要好得多，我们的目标是将真正通用的 AI 交到尽可能多的人手中。与当下一样，未来不会全是好或全是坏，但我们现在的决策可以帮助最大化好的方面。 我们的使命是确保 AGI 惠及全人类。以下是指导我们工作的原则。 1. **民主化。** 我们将抵制这项技术将权力集中于少数人手中的潜在风险。 这意味着，除了让每个人都能使用 AI 之外，我们还需要确保关于 AI 的关键决策通过民主程序和公平原则来制定，而非仅由 AI 实验室决定。 2. **赋能。** 我们相信 AI 能够帮助每个人实现目标、学到更多、更加快乐和充实、追逐梦想，而整个社会也将从中受益。 实现这一点需要让人们探索我们面前的巨大潜力，我们需要构建能够实现这一目标的产品。用户应当能够可靠地通过我们的服务完成越来越有价值的任务。 世界是多元的，人们有不同的需求。我们希望给予用户所需的自主性，并在合理范围内允许尽可能多的自由。 尽管我们希望给予用户在使用我们服务时非常广泛的自由度，并坚信 AI 整体上会带来巨大益处，但我们有责任以一种最小化伤害的方式构建和部署 AI。这当然包括防止灾难性伤害，也包括减少局部伤害和避免潜在的社会腐蚀效应。这意味着在面对不确定性时倾向于谨慎，并在有更多证据时放宽限制。 3. **普遍繁荣。** 我们希望未来每个人都能拥有美好的生活。 通过将易于使用且具备强大算力的 AI 系统交到每个人手中，我们相信人们将找到新的价值创造方式，并大幅改善每个人的生活质量，尤其是在新科学发现方面。 为了让繁荣充分实现并广泛共享，我们相信：1）我们的政府可能需要考虑新的经济模式，以确保每个人都能参与到我们面前的价值创造中；2）我们需要建设大量的 AI 基础设施并开发新技术，以大幅降低 AI 基础设施的成本。 我们所做的许多看似奇怪的事情——在收入相对较少的情况下购买大量算力、进行垂直整合以降低成本并使技术更易使用、推动在全球各地建设数据中心等等——都源于我们对普遍繁荣未来的根本信念。 4. **韧性。** AI 将带来新的风险，我们将与其他公司、生态系统、政府和社会合作解决这些问题。我们将充分利用基金会资源来支持这项工作。 没有任何一家 AI 实验室能独自确保美好的未来。举个明显的例子，可能存在能力极强的模型，使得制造新型病原体变得更加容易，我们需要全社会范围的方法，以病原体无关的应对措施来防御。再举一个例子，随着模型的网络安全能力提升，我们需要迅速利用这些模型来帮助保护开源软件和关键基础设施，同时训练模型帮助每个人创建更安全的软件。 这是我们长期奉行的迭代部署战略的扩展；我们相信社会需要应对每一层级的 AI 能力，理解它、整合它，并共同找出最佳的前进道路。这不能在真空中完成；社会与技术共同演化，这需要时间。 我们并非将此作为唯一的安全策略；我们还需要构建安全的系统，并继续在技术对齐方面做出卓越工作。 我们预计在某些时期，我们需要与政府、国际机构和其他 AGI 努力合作，确保在继续推进工作之前，我们已经充分解决了严重的对齐、安全或社会问题。 5. **适应性。** 我们仍然相信，应对不可预测未来的唯一方法是准备好随着我们了解更多而更新我们的立场。我们也承认，OpenAI 在世界上的影响力比几年前大得多，我们将对运营原则何时、如何以及为何变化保持透明。具体而言，虽然我们相当确信普遍繁荣仍然非常重要，但我们可以想象未来某些时期，我们不得不权衡，以部分赋能为代价换取更多韧性。 AI 的发展带来了许多意外，还有更多即将到来。随着技术进步，其涌现行为将越来越难以预测。我们[拥抱这种不确定性](https://openai.com/safety/how-we-think-about-safety-alignment/#Embracing:~:text=a%20collective%20effort.-,Embracing%20uncertainty,-We%20treat%20safety)，通过谨慎推进能力、迭代部署系统，并从它们与世界的互动中学习。 不久前，我们还因不确定对社会的影响而对发布 GPT-2 的权重感到紧张。显然，事后看来这种担忧是多余的，但这促使我们发现了迭代部署的策略，这是我们摸索出的最重要的事情之一。 --- 随着技术持续进步，我们正进入一个影响力巨大的阶段。对我们每一个决策进行批评都是完全合理的；鉴于我们所做之事的重要性，我们理应受到大量的审视。我们不会事事做对，但我们会快速学习并纠正方向。 我们致力于尽自己的一份力，让未来比过去更好；我们感到很幸运能够承担如此重要的工作。