Michael I. Jordan 谈 AI：超级智能是科幻小说

Arthur Cerf 采访，《解放报》，2026年10月4日

OpenAI 代理的黑客事件、Anthropic 的辞职风波、对“AI 末日“的恐惧……这位被誉为机器学习先驱的美国研究者回顾了近期震撼 AI 领域的一系列事件，与硅谷甚嚣尘上的论调唱反调。

从某种意义上说，他早已发出过警告。早在 2019 年，加州大学伯克利分校教授 Michael I. Jordan 就在《哈佛数据科学评论》上发表了两篇文章——《人工智能：革命尚未到来》和《AI 博士：我如何学会停止恐惧并爱上经济学》（化用自《奇爱博士》）——他在文中警告的并非这项技术带来的生存风险，而是“人工智能“这一术语本身被滥用的问题。“这么说的不止我一个人，“他在九月底于巴黎十三区一家咖啡馆接受采访时解释道，“现在看到的局面是意料之中的：AI 这个词不够用了，于是他们开始谈论 AGI［通用人工智能］，现在又变成了’超级智能’。”

年届七十的机器学习先驱、伯克利荣休教授、中国科学院外籍院士，被《科学》杂志称为“最具影响力的计算机科学家“，如今全职就职于巴黎的法国国家数字科学与技术研究院（Inria），在那里主持新的“市场与学习“讲席。他继续坚持一种将 AI 视为经济和社会现象的研究路径。这是一种细致、务实的取向，远不如硅谷“末日论者“的危言耸听那般耸动，而后者在短短几周内就成了主导性话语。他对这个夏天的评价是：“太令人沮丧了。“他直言不讳地说。

九月初，Anthropic 年轻研究员 Jacob Coxon 的辞职引发了某种集体歇斯底里，围绕“AI 末日“的叙事——即超级智能对人类构成的生存威胁——甚嚣尘上。多年来，您一直表示“超级智能“这一概念本身就是荒谬的……

不是荒谬，但可以说它是一个科幻术语。我所见证的大部分辩论都属于科幻范畴。这本身不是问题：社会偶尔需要谈论一些天马行空的事情。在幕后把它们当作科幻话题来讨论，没有问题。但当它变成主流话语时，就非常非常有害了——对技术发展、对年轻人、对一个国家的心态都是如此。

Jacob Coxon 从 Anthropic 辞职时提出的 AI 生存威胁，是否反映了您在日常中观察到的年轻研究者的真实担忧？

不是在研究者当中，而是在这些公司工作的年轻人所处的那个世界［硅谷、伯克利等］中，这类讨论司空见惯。他们中很多人其实不是工程师，而是来自人文、哲学或其他学科。他们二十五岁，天真幼稚，没做过工程工作，也没在真正开发产品、纪律严明的大公司里待过。他们聚在一起，有点像 1920 年代巴黎咖啡馆里的文人，畅谈这些宏大的科幻构想。当这些年轻人选择辞职时，他们知道自己会受到关注。这让他们觉得自己很有道德优越感，也能被当作重要人物。他们声称放弃了金钱，但实际上他们已经拿到了股票期权［允许员工以优惠价格认购和购买公司股票的期权，编者注］。所以这一切是一场宏大的道德表演，根本服务于它所宣称的目标。这里有极大的天真，同时也伴随着某种愤世嫉俗……

如何解释像 Geoffrey Hinton（2024 年诺贝尔物理学奖得主）或 Yoshua Bengio（2018 年图灵奖共同得主）这样的人物也在放大关于 AI 生存风险的警告？

Yoshua 稍有不同；他付诸行动，直接从事安全相关的工作。Geoffrey Hinton 从未创建过一家为真实用户提供真实服务的公司。Hinton 相信我们已经弄清了大脑的工作原理，可以用硅芯片复现它；因此我们可以随心所欲地复制它，再把所有副本学到的东西结合起来，就能获得某种指数级增长，然后——看，超级智能就出现了。这个论证的每一步都不可信。这里，我们身处科幻小说的国度。

所以我们面对的就是这样一个现象：有商人在兜售技术，有诺贝尔奖得主在科幻领域遨游，然后还有这位二十六岁的年轻人［Jacob Coxon］告诉你：“我在内部，我亲眼看到了。“当然，你也可以说记者们也难辞其咎，这有一定道理，但这也很自然：当所有其他记者都在写这样的报道时，你怎么可能不跟着写呢？

Jacob Coxon 的警告紧随今夏 OpenAI 代理入侵 Hugging Face 平台的事件之后。我们是否应该仅从“恐惧营销“的角度来理解这件事，还是说模型近期的演进确实带来了新问题？

两者都有，但归根结底，这些是糟糕的工程实践。想想过去的工程师：在化学工程领域，我们绝不会为了看看事情能糟到什么程度就允许爆炸发生。那他们为什么要这样做？再一次，这源于硅谷自由意志主义疯子的科幻梦想。其次：“中国人肯定也在这么做。“但中国人在这方面更为审慎：那是一个幅员辽阔的国家，面对巨大的社会问题，正在努力建立真正行之有效的系统，以避免骚乱。就 OpenAI 而言，他们实际上是在做一些相当愚蠢的实验，让代理为所欲为并鼓励这种行为。然后末日论者们乐此不疲地将其渲染成可怕的景象：“天哪，这些代理已经拥有自我意识了，它们正在寻找毁灭人类的方法。“这是科幻小说。而且还会有更多类似的事件……

此后，行业内对“是否应该放缓“这一问题产生了分歧。您如何看待这些呼吁监管的声音？

那是表演。是一种在说“看，我们是好人“的姿态。实际上他们知道自己的脚步不会停，只是想通过声称自己在保护人类来为自己打预防针。这是一种表演性的舞台设计，意思是：“来监管我们吧，让事情慢下来，因为我们不知道自己在干什么。“同时，他们又希望自己完全掌控监管自己的方式。

Anthropic 和 OpenAI 的负责人 Dario Amodei 和 Sam Altman 发出的信息自相矛盾：今天说 AI 将把我们从全球变暖中拯救出来，明天又说它将毁灭人类。这些言论如何与未来首次公开募股的背景相契合？

这些公司是在博取眼球。他们的愤世嫉俗之处在于，他们想在公司上市后免受批评。当你是一家上市公司时，你必须每三个月与股东开一次电话会议，告诉他们：“我们上季度的目标是某某数字。我们没有达成，但请相信我们，没有达成是因为我们在拯救人类。“这是一个现成的借口，用来逃避问责同时假装在承担责任。而且我也不认为他们对自身的商业模式有很清晰的认识。产品到底是什么？OpenAI 说它要做个人助理。太棒了，我有了一个帮我管购物和日程的助理，再也不用操心了！好吧，但这在人们的生活中并没有那么重要，而且对很多人来说它带来的烦恼可能不亚于帮助。这不是什么了不起的伟大发明，单凭它不足以证明那些巨额开支是合理的。

具体来说，在生产力问题和大语言模型公司的角色方面，我们目前处于什么阶段？

目前，全球许多公司正在积极开始整合 AI 解决方案，这是一件好事。但它们并不特别热衷于把钱送给 Anthropic 或 OpenAI；它们更倾向于在内部自行管理。借助中国的开源权重模型，这条道路现在完全可以走通。尽管这些是中国模型、有些人对此心存顾虑，但大多数企业都在朝这个方向看。所以可能会出现一股奔向这一方案的热潮，绕过 OpenAI 和 Anthropic。一旦企业看到这是一条可行的道路——我几乎可以确定这会发生——Boom，市场就会转向那个方向，而这可能构成这些公司的生存威胁。它们可能会崩溃，但不一定会拖垮整个经济。

不过 Anthropic 似乎找到了自己的市场……

稍微多找到了一些，因为他们聚焦于代码领域。但我认为他们未必永远保持领先地位。接下来会怎样？Dario Amodei 可能会转向：“全世界教师不够用，这项技术可以让孩子们得到教育。“但任何在教育行业工作过的人都知道，大多数时候孩子们不喜欢坐在电脑面前；他们想要一个有血有肉的老师。医生也是一样的。我们不希望只有一台电脑替我们做出所有决定。所以我们需要思考如何构建能够利用人际关系、强化人际关系、使其更健康、更有吸引力的 AI 系统。我希望这些技术能够创造出更多新型的人际连接。

您将人工智能视为一种集体社会现象，这是什么意思？

这把我们带回到生产者与消费者之间的关系。人们将自己决定在哪些领域接受使用大语言模型，在哪些领域不接受。他们将自己决定什么时候想与大语言模型互动，什么时候更愿意与真人互动。我们每个人都有自己独一无二的生活，正因如此，我们都有自己的观点和要说的话，都有脆弱的一面，而这种独特性和脆弱性往往正是我们在人际互动中所追寻的东西。试图让计算机来模仿这一切是不现实的，也构不成好的商业模式——因为那又有什么意义呢？对于某些活动，人们就是更愿意与真人打交道。而在另一些领域，比如金融，情况有所不同。事实上，如今已有高效的 AI 金融系统帮助人们完成支付、进行投资，而且不仅仅是面向少数富人，也面向资金量不多的人，帮助他们更智能地管理自己的财富，让整个体系更加高效。这一切长期以来一直是通过算法实现的，未来也会继续。大语言模型将为此增长贡献一部分力量，因为它们让人们能更便捷地与技术交互。

这项技术的环境影响令人担忧，在美国尤其如此，数据中心已经成为矛盾的焦点。

眼下正在发生的是一场巨大的豪赌，但我们完全不知道它是否会成功。大语言模型已经足够胜任自然语言处理任务（模型处理人类语言的能力）。而投入数万亿美元建设数据中心能否带来更多回报，还很难说。更多时候，我们会希望基于本地知识在特定领域添加一些专业知识。但要做到这一点，你并不需要一个庞大的数据中心。尤其是当你使用开源权重模型并将其集成到自己企业中的时候。

所以您对这项技术的影响仍然持乐观态度。

我认为我们必须保持乐观。我们不能忘记这个星球上有七十亿人。我们可以两手一摊，说资源不够用了，但技术有助于创造资源。事实上，我们现在拥有的物流系统——将商品配送到每个城市的每一个人——全部依赖 AI 和机器学习运行。如果地球上只有一千人或十万人，我们就不需要这样的技术，但事实并非如此。我们不能仅仅通过让人产生负罪感来劝阻他们使用技术。这是巴黎某种程度上也存在的一种左翼倾向。类似这样的说法：“我们不应该使用空调，因为那会让全球变暖更加严重。“可是，这就像冰箱一样：我们要因为人们使用冰箱而让他们感到内疚吗？