Dean Ball 加入 OpenAI

# 那未曾踏足的世界 来源：https://www.hyperdimensional.co/p/that-untravellld-world *我是一切我所遇之部分；然而，所有经验都是一道拱门，透过它闪烁着那未曾踏足的世界，其边缘在我移动时永远、永远地褪去。* ——阿尔弗雷德·丁尼生勋爵，《尤利西斯》 我很高兴能与大家分享一个激动人心的消息：7月6日，我将加入OpenAI，担任战略未来主管（Head of Strategic Futures），这是一个新成立的团队，负责在公司内部塑造前沿人工智能政策。我将继续担任美国创新基金会（Foundation for American Innovation）非常驻高级研究员。 这个团队将做些什么？战略未来团队将是OpenAI内部一个小规模、高自主权的团队，向首席战略官Jason Kwon汇报，负责塑造前沿人工智能政策——即涉及以下方面的事务：灾难性风险、递归自我改进、劳动力市场影响，以及前沿实验室、政府（尤其是美国联邦政府）与社会之间的关系。其工作将涵盖面向公众的政策（例如，立法提案）和实验室内部治理，与技术人员、准备团队、法律团队、国家安全与全球事务团队的政策人员以及公司执行领导层紧密协作。 与技术人员合作对战略未来团队尤为重要，不仅是为了理解新兴人工智能风险的形态（尽管这一点很关键），也是为了更广泛地了解人工智能的发展态势。话虽如此，机器学习或人工智能政策专业经验并非硬性要求；我希望组建一个异质化的团队，汇聚多种学科和视角。如果您有兴趣了解更多，请与我们联系。 *Hyperdimensional* 建立在两个基本直觉之上：（1）前沿实验室本身将成为阳光下一种新型机构，与社会其他制度支柱建立一套新的安排；（2）变革性人工智能本身将是一种治理技术，不仅需要某种程度的"监管"，还使全新的治理形式成为可能。随着时间的推移，我增加了第三个关键直觉：几乎是必然地，一些最重要的人工智能治理决策很可能由前沿实验室自身塑造，甚至完全由其做出。换句话说，**内部治理** 对人工智能未来的重要性将超出大多数人的认知。 这一切都很好，但也过于抽象。从前沿实验室外部所能获得的视角来看，它仍将如此。为了推进这些直觉，使其更加具体，我意识到我必须"走进去"。这是我接受这个角色的核心原因。我相信，如果不这样做，我就无法推动事情向前发展（需要说明的是，这与我个人的职业轨迹有关；我并非暗示在实验室之外就不可能做好人工智能政策工作）。 我产生这种"走进去"的想法已有几个月。幸运的是，OpenAI恰好询问我是否有兴趣担任这个角色。我对此心怀感激与荣幸，并期待向OpenAI各团队的新同事学习。我相信这家公司的人才密度能与地球上任何一家公司媲美，因此被邀请为其努力贡献力量既是一种特别的兴奋——我必须承认也略感忐忑。 现在，关于 *Hyperdimensional* 本身：这个刊物将保持活跃 **且** 独立。与过去几个月一样，发表量将在每月2-3篇左右，如果情况允许，可能会更多。我计划分享我的OpenAI团队所做工作的消息，但也会继续我一直在做的这类分析写作。 为了完全透明，我在此处撰写的文章将完全属于我个人：OpenAI的任何人都不会对我写的内容拥有预审批或编辑决定权。同样的独立性也适用于我的X账号和我即将于明年由Penguin Press出版的书籍（与原计划时间相同）。这意味着我可以公开偏离OpenAI及其领导层的立场。虽然我不预期会有任何显著的偏离（多年来与OpenAI领导层深入交流后，我清楚地感觉到我们共享许多相同的目标和价值观；事实上，这正是我接受这份工作的原因！），但我希望从一开始就向您明确：在评论人工智能政策议题时，我将保持我的知识独立性。确保这种独立性是我接受这个角色的 **关键** 因素。若非如此，我无法接受。 话虽如此，上述情况有一些例外，我希望您会认为是合理的。例如，假设有涉及OpenAI的重大诉讼。作为OpenAI员工，对此类话题公开发表评论可能面临法律障碍，尤其是当我的工作涉及与诉讼相关的非公开信息时。同样，对于未来的产品发布和其他公司机密计划，情况也是如此。 本着完全坦诚的态度，我还需要补充一点细节：在我的整个职业生涯中，我一直努力让自己的公开言论语调与角色相匹配。我在白宫工作时曾公开发表言论——顺便一提，D.C.资深内部人士经常告诉我，我的坦诚程度异常之高。但我的公开发言与我离开政府、重新成为智库学者后的言谈明显不同。类似地，我将需要随着时间的推移，探索在这个新角色中最合适的表达方式。然而，关键在于，这一探索过程以及沿途的每一个决定，都将由我做出，而非由我的雇主指导。 — 人工智能治理的第一阶段——大约从2022年11月持续到2025年底或2026年初——是"简单模式"。一个新的、更困难的阶段已经开始。这将涉及更多政治，赌注也更高。令我感到安慰的是，我们知道进入这个新时代时，我们拥有极其强大的技术工具来帮助我们构建一个安全的未来和更美好的世界——这些工具的力量正逐月加速增长。我只希望我们以及我们的人类机构能够与之共同成长。这，一如既往，是我们的工作，并将继续加速推进。 下次再聊。 Dean #### 关于本文的讨论 ### 想要更多？