@satyanadella: 任何对超级智能的追求都必须基于这样一个核心原则:如果我们构建的AI不是在帮助人类……
摘要
Satya Nadella 指出,超级智能必须优先考虑人类利益和控制,呼吁建立一个平衡的AI生态系统,包括开放和封闭模型、企业对知识的控制,以及在对齐工作中的广泛代表。
查看缓存全文
缓存时间: 2026/09/13 21:13
任何对超级智能的追求都必须基于一个核心原则:如果我们所构建的AI不能造福人类并处于人类控制之下,那么这种追求就不值得进行。
我们还需要加速并广泛传播AI的益处,使其能遍及各个国家、社区和企业。这需要建立一个前沿生态系统,让闭源和开源模型都能蓬勃发展。
对于企业而言,关键在于它们必须完全掌控自己独特且隐性的知识。每个组织都应能构建自己的持续学习循环/梯度攀升机制,而不依赖于任何单一模型供应商,并具备将自身知识嵌入所控制模型和权重的能力。
因此,在此背景下,我们欢迎为达成对齐这一设计目标所需的研究、专注与审慎推进。我们同样支持“嵌入式评估器”等理念,以及为将其付诸实践而付出的更广泛努力。
关键在于,这种进程不能由少数实体控制,而必须在生态系统、国家与学科领域(包括学术界)中获得广泛代表性。
我们的实践路径正是如此:在AI技术栈的每一层提供广泛访问与选择权;让企业掌控自身的学习循环与模型;以及我们即将于明日发布以供公众咨询的、规范旗下MAI模型的《行为准则》。
相似文章
@rohanpaul_ai: Sam Altman 的新采访:人工智能不应被设计为追求与人类需求脱节的目标。人们必须……
Sam Altman 在一次新的采访中强调,人工智能的设计应以人类需求为中心,而不是追求脱节的目标。
微软AI负责人称超级智能即将到来,但不会取代你的工作
微软AI首席执行官穆斯塔法·苏莱曼讨论了超级智能在近期实现的可能性、公司与OpenAI重组后的关系以及新的前沿模型,并断言AI不会取代人类工作。
超级智能的治理
OpenAI 概述了超级智能治理框架,强调三个关键支柱:领先 AI 开发工作之间的协调、一个国际权威机构(类似 IAEA)监督超过特定能力阈值的系统,以及 AI 安全方面的技术进展和民主公众对最强大系统的监督。
@satyanadella: 来自Demis的重要文章。我们需要更多这样的思考。一个很好的提醒:目标是前沿生态系统……
Satya Nadella认可Demis Hassabis关于构建前沿AI生态系统的思考,该生态系统促进创新和选择,同时避免灾难性的模型崩溃。
“这不能称之为进步”:微软CEO萨提亚·纳德拉警告人工智能权力集中
微软CEO萨提亚·纳德拉警告人工智能权力不应集中在少数公司手中,倡导更广泛的获取和社会效益。