OpenAI 的技术目标

# OpenAI 技术目标 来源：https://openai.com/index/openai-technical-goals/ OpenAI 的使命是构建安全的 AI，确保 AI 的益处能够得到广泛而平衡的分配。 我们致力于作为更大社区的一部分来构建 AI，并希望在这个过程中分享我们的计划和能力。我们也在致力于巩固组织的治理结构，将在今年晚些时候分享相关看法。 定义一个衡量智能的指标很困难，但我们需要一个指标来衡量进展并聚焦研究方向。因此我们正在构建一个动态指标，用来衡量 agent 在广泛的环境中实现用户既定目标的能力。 该指标由多个 [OpenAI Gym](https://gymlibrary.dev/) 环境组成，具有统一的 [action 和 observation space](https://gym.openai.com/docs#spaces)（因此单个 agent 可以在所有环境中运行），包括游戏、机器人和基于语言的任务。我们的实现方案将随时间演进，我们也会定期向社区更新进展。 我们将大量研究资源投入到基础研究中。我们将不断开发和测试新想法，特别是那些与当前认知不太一致的想法。这很重要——我们目前的想法不足以实现长期目标。 我们还围绕具体项目组建了专业团队。其目的不仅是解决这些问题，还要在此过程中开发通用学习算法。这些算法反过来将帮助我们构建根据我们的指标更强大的 agent。这些项目包括： 我们的目标是训练一个能力足够强的 agent，能够解决我们初期指标中的任何游戏。游戏是高度多样化的虚拟微观世界，快速高效地学习游戏需要在[生成模型](https://openai.com/index/generative-models/)和[强化学习](http://karpathy.github.io/2016/05/31/rl/)方面取得重大进展。（我们受到了 [DeepMind](https://deepmind.com/) 先驱工作的启发，他们在过去几年在这一领域取得了[令人印象深刻的](http://www.nature.com/nature/journal/v518/n7540/full/nature14236.html)[成果](http://www.nature.com/nature/journal/v529/n7587/full/nature16961.html)。） 我们的项目和基础研究都有共同的核心，因此任何一个项目的进展都可能惠及其他项目。每个项目都反映了目标解决的不同方面，都是基于对显著推动我们指标的潜力进行选择的。 我们刚刚开始这些项目，细节可能会随着获得更多数据而改变。我们也预期会随着时间推移添加新项目。