@satyanadella: 任何对超级智能的追求都必须基于这样一个核心原则:如果我们构建的AI不是在帮助人类……

X AI KOLs Timeline 新闻

摘要

Satya Nadella 指出,超级智能必须优先考虑人类利益和控制,呼吁建立一个平衡的AI生态系统,包括开放和封闭模型、企业对知识的控制,以及在对齐工作中的广泛代表。

任何对超级智能的追求都必须基于这样一个核心原则:如果我们构建的AI不是在帮助人类并处于人类控制之下,那就不值得追求。 我们还需要加速并传播AI的益处,使其广泛扩散到国家、社区和公司。这需要一个前沿生态系统,其中封闭和开源模型都能蓬勃发展。 对于公司而言,必须保持对自身独特和隐性知识的完全控制。每个组织都应该能够构建自己的持续学习循环/爬山算法,而不依赖于任何单一的模型提供商,并有能力将自己的知识嵌入到他们控制的模型和权重中。 因此,在这种背景下,我们欢迎为实现对齐作为设计目标所需的研究、专注和刻意节奏。我们也欢迎像'嵌入式评估器'这样的想法,以及更广泛的努力来开发机制,使这不仅仅是空谈。 关键在于,这不能由少数实体控制,而必须在整个生态系统、国家和领域中拥有广泛的代表,包括学术界。 这就是我们正在采取的方法:在AI栈的每一层提供广泛访问和选择;企业控制学习循环和模型;以及我们自己的第一方MAI模型所基于的'行为准则',我们将于明天发布供公众咨询。
查看原文
查看缓存全文

缓存时间: 2026/09/13 21:13

任何对超级智能的追求都必须基于一个核心原则:如果我们所构建的AI不能造福人类并处于人类控制之下,那么这种追求就不值得进行。

我们还需要加速并广泛传播AI的益处,使其能遍及各个国家、社区和企业。这需要建立一个前沿生态系统,让闭源和开源模型都能蓬勃发展。

对于企业而言,关键在于它们必须完全掌控自己独特且隐性的知识。每个组织都应能构建自己的持续学习循环/梯度攀升机制,而不依赖于任何单一模型供应商,并具备将自身知识嵌入所控制模型和权重的能力。

因此,在此背景下,我们欢迎为达成对齐这一设计目标所需的研究、专注与审慎推进。我们同样支持“嵌入式评估器”等理念,以及为将其付诸实践而付出的更广泛努力。

关键在于,这种进程不能由少数实体控制,而必须在生态系统、国家与学科领域(包括学术界)中获得广泛代表性。

我们的实践路径正是如此:在AI技术栈的每一层提供广泛访问与选择权;让企业掌控自身的学习循环与模型;以及我们即将于明日发布以供公众咨询的、规范旗下MAI模型的《行为准则》。

相似文章

超级智能的治理

OpenAI Blog

OpenAI 概述了超级智能治理框架,强调三个关键支柱:领先 AI 开发工作之间的协调、一个国际权威机构(类似 IAEA)监督超过特定能力阈值的系统,以及 AI 安全方面的技术进展和民主公众对最强大系统的监督。