Sam Altman在联合国安理会的讲话

# 山姆·奥特曼在联合国安理会的发言 来源：https://openai.com/index/sam-altman-un-security-council-remarks/ 今日，OpenAI首席执行官山姆·奥特曼在联合国安理会发表关于人工智能的演讲。他探讨了AI在拓展机遇方面的潜力、保持强大系统处于人类控制之下的重要性，以及国际社会在AI安全领域合作的必要性。 ## 讲话全文 主席先生，各位阁下，感谢各位。我深感荣幸能在这一重要时刻在此与诸位交流。 多年来我们一直在讨论人工智能，但近几个月来，这种讨论已有所不同。模型的快速迭代使得发展时间线显得更为紧迫，收益愈发可触，同时风险与利害关系也更为直接。 我们正面临抉择：人工智能可以成为启迪创新与探索的“新文艺复兴”，也可能沦为引发动荡与混乱的“新工业革命”。 文艺复兴时期，新工具、新思想与新制度拓展了人类能力的边界。人工智能在当今时代正可扮演类似角色。我相信人类潜力远超自我想象，却长期受制于有限的科技——这些本应赋能的技术反而令人分心、侵占注意力。 人工智能的终极形态并非将人变成庞大机器的齿轮，也不是将生活每个环节优化到人性消逝。它应是在日益复杂的世界中赋予人类更多自主权：增强学习、创造、发现、建设与参与的能力。有许多事物既不能也不应被人工智能自动化。 人工智能应为人而建，而非单纯为机器自身加速运转。部分AI研发者所言的场景如此反乌托邦，简直像劣质科幻电影的桥段。 如此强大的技术同样令人敬畏。此刻我们既看到巨大潜力，又心怀完全可以理解的焦虑，这种复杂情绪正弥漫开来。 这些模型能帮助人类发现新知识：新药物、更优医疗、更强教育，并构建更具生产力的经济体系。它们能成为人们追求今日尚不可及梦想的新工具。普通人的生活复杂性已急剧增加，人工智能既可成为抵御这种复杂的盾牌，也能成为史无前例的发现与创新利器。 但另一方面，随着AI系统能力增强与自主性提升，其发展可能超越现有制度演进速度，导致权力过度集中于少数人手中，或做出人类不再理解与掌控的决策。 当我们逼近可自我改进（即常说的“递归自我改进”）的系统时，这种担忧尤为关键。随着AI开发流程自动化程度提高，其进步速度可能急剧加快。此时刻要求我们极致审慎。 我基本认同本吉奥教授的观点。但我认为需要避免的不是三种而是两种可能使AI发展误入歧途的险境： 其一，我们可能将未来主导权丧失于人工智能。风险在于其发展过快，导致人类既无法理解其进程，亦难以必要时介入。这显然极为可怕。 行业绝不能因收益巨大或自认至关重要而过度承担技术风险。在竞争中超越对手不应成为草率决策的理由。我们也不认为自己被锁定在一场无法减速的竞赛中。过去我们曾主动放缓脚步，未来亦将如此。我们不愿构建无法确保对齐性、可监控性与安全性的系统——我们认为所有参与者都应避免此类系统。 我们需要理解这些系统的运作机制，并获取强有力证据证明其行为符合人类意图——尤其当它们变得极度聪明时。无论人们将灾难风险预估为10%、1%、12%还是0.1%，这些比例都绝不可接受。我们不应训练那些无法确凿保证其始终处于人类控制下的模型。 这是第一种可能出错的方向。另一种风险是权力过度集中。任何个人、企业或国家都不应能利用最强大的AI模型将自身世界观强加于全人类。任何自诩唯有己方可信的实体，都可能以此信念为由合理化任何行为。我们必须摒弃这种逻辑，即便它在某些情况下看似便利。 我相信存在务实路径可规避上述双重风险。在OpenAI，我们秉持明确目标应对这些议题：人工智能应增强人类对自身生活的掌控力，赋予人们按意愿生活的自由，提升解决大小问题及改善社区的能力。我们既不愿陷入盲目乐观，也不愿坠入末日预言的泥潭。极端思维无助于我们应当前世挑战——尤其在世界与人类正面临亟待科技协助解决的巨大困境之时。因此我们尝试在两极之间走中道。 对我们而言，这体现为三项原则： 第一，随着AI能力增强，人类必须始终处于AI决策的核心。对齐性并非抽象研究课题，而是确保这些系统可靠地保持人类控制、体现人类价值、协助人类引导下一阶段发展的工作。我们无意也不应自动化人类判断或价值观。 第二，科学进步与经济增长的红利必须由人民创造并惠及人民。AI应助力研究突破、教师育人、医疗提升、创业者开拓、社区解决棘手难题。人类进步的持续叙事从来不是工具取代人类主体性，而是正确工具使人能力倍增——我相信这种赋能将远超我们想象。 第三，这项技术必须赋予个体力量。伟大未来源于个人实现潜能，为其自身、社区、国家乃至世界创造价值。我们或许参与构建了这项技术，但并非此故事的英雄。我们的使命是赋能全球民众，信任人类技能与智慧的伟力。 我们现已拥有可发现前所未有知识的模型。回顾数学领域的进展：三年前我们的模型仅具小学算术水平，两年前已擅长高中数学竞赛，去年在顶级国际数学竞赛中达到金牌水准。而就在几周前，我们的一个模型解决了千禧年大奖难题之一——纳维-斯托克斯方程。 该方程涉及飞机设计、天气预报与血流研究。我们解决数学问题并非为学术而学术，而是为赋能人类发现新知，进而改善医疗、提升生活水平、拓展全球民众潜能。仍有许多奥秘待解。 但至关重要的是，企业不能替代民主进程。 若要实现AI民主化，最重要的决策不能仅由旧金山的实验室决定。它们必须通过民主流程塑造，并由对人民负责的政府主导。 在国际层面，这需要合作。历史表明，即便存在竞争且彼此未必友善的国家，面对强大新技术时仍可为共同利益与集体福祉携手共进。我们相信当下正是如此时刻。 我们需要建立国家与国际前沿AI标准的互补机制：涵盖能力评估、风险衡量、安全措施充分性判定，以及在系统更趋自主时维持有效人类监督的标准。 我们需要统一标准，以便各国对比证据、验证合规性，并就事态发展形成共同语言与理解。 我们需要建立准确快速的事件报告机制，制定分类报告协议，使世界能在灾难发生前从失败中汲取教训。 我们需要建立政府、关键基础设施运营者与技术专家间的安全沟通渠道，分享新兴漏洞与新型威胁。 显然，这些标准不应固化现有格局或偏袒特定商业模式。它们必须支持开放与闭源模型开发者、新进企业与既有实验室、国家权威与国际合作。各国政府应自行决定如何将标准纳入本国法律体系。但若能就优质证据、有效保障与健全监督的国际标准达成共识，我们都将从中受益。 我们并未掌握所有答案，并对任何更优构想持开放态度。我们准备与诸位通力合作，竭尽所能探寻前行之路。 我们正处在十字路口。一条路通向权力集中、决策不透明、民众感觉毕生最重要技术正强加于己的世界。另一条路通向AI为人服务的世界——人们通过民主制度参与决定技术发展方向；科学进步切实改善生活；更多人能融入未来图景；科技持续赋予个人与社群按意愿生活的更大自主权。这是潜能充分实现、充满激情与奇迹的未来。 这正是我们坚信值得构建的未来。谢谢大家。