superintelligence

OpenAI 发布了一系列以人为本的智能时代政策思路，提出了扩大机会、确保先进 AI 惠及所有人的框架，并附带奖学金计划和华盛顿特区研讨会。

OpenAI的Superalignment团队介绍了弱到强的泛化，这是一个新的研究方向，用于通过解决能力较弱的人类监督者如何可靠地控制和引导智能远超自身的AI系统这一根本性问题，来实证对齐超人类AI模型。

OpenAI 概述了超级智能治理框架，强调三个关键支柱：领先 AI 开发工作之间的协调、一个国际权威机构（类似 IAEA）监督超过特定能力阈值的系统，以及 AI 安全方面的技术进展和民主公众对最强大系统的监督。

概述了DeepMind、OpenAI、Anthropic和中国等领先实验室在AI开发中的竞争格局，它们正争相迈向超级智能。