我们对AI智能的理解正确吗？（44分钟阅读）

# 我们对人工智能的思考方式正确吗？| Quanta杂志 来源：https://www.quantamagazine.org/are-we-thinking-correctly-about-ai-intelligence-20260820/ 当大型语言模型回答问题时，它是在像人类一样推理，还是仅仅在生成看似推理的文本？这种区别不仅仅是哲学问题——它决定了我们可以信任人工智能做什么，需要多密切地监督它，以及最终它在现实世界中会产生怎样的影响。 梅兰妮·米切尔（https://www.santafe.edu/people/profile/melanie-mitchell）在圣塔菲研究所指出，我们缺乏测量机器认知能力的适当方法，认为人工智能是一种通过非人类认知机制运作的“外星智能”。在本期《为何之乐》节目中，米切尔向史蒂文·斯特罗加茨解释，心理学家研究其他类型“外星智能”——婴儿和动物——的认知方法如何被调整用于探究人工智能，并提出了评估机器认知能力的六项原则。他们的对话涵盖了解读系统内部运作的挑战、近期人工智能辅助的数学突破，以及为什么20世纪初一匹会算术的马对我们评估智能的方式提供了警示。 收听方式：Apple播客 (https://podcasts.apple.com/us/podcast/the-joy-of-why/id1608948873)、Spotify (https://open.spotify.com/show/2FoxHraQSKwxV2HgUfwLMp)、TuneIn (https://tunein.com/podcasts/Science-Podcasts/The-Joy-of-Why-p1653040/) 或您喜爱的播客应用，也可通过Quanta流媒体收听 (https://www.quantamagazine.org/tag/the-joy-of-why)。 ## **文字记录** [*音乐播放*] **史蒂文·斯特罗加茨：** 我是史蒂文·斯特罗加茨。 **珍娜·莱文：** 我是珍娜·莱文。 **斯特罗加茨：** 这里是《为何之乐》。 **莱文：** 来自《Quanta杂志》的播客，我们将探讨当今数学和科学领域一些最重大的未解之谜。 **斯特罗加茨：** 好的，各位好。不出所料，这又是一期关于人工智能的节目。 **莱文：** 我告诉你，人们似乎对这个话题永远兴趣不减，而我已不愿再高谈阔论。它变化太快了。 **斯特罗加茨：** 确实。它的发展速度极快。我们现在说的任何话，下周可能就过时了。 **莱文：** 哦，是的。 **斯特罗加茨：** 我们说话时，现在是2026年7月23日。 **莱文：** 这对我来说感觉确实不同于2025年7月23日，这是肯定的。 **斯特罗加茨：** 嗯。谈论时间线其实挺重要，因为我们今天的嘉宾梅兰妮·米切尔，她是圣塔菲研究所的认知科学家和计算机科学家，之前曾上过我们的节目。大约五年前她来过，那时还没有ChatGPT。 **莱文：** 对。她当时对人工智能感兴趣吗？ **斯特罗加茨：** 哦，是的。 **莱文：** 好吧，所以不只是认知科学。 **斯特罗加茨：** 当然。我意思是，梅兰妮思考人工智能问题已经很久了，她会告诉我们这些。但我觉得今天我们将要讨论的最有趣的事情是梅兰妮的观点：从发展心理学等领域的角度思考人工智能问题。比如，婴儿或幼儿是如何迅速变得如此聪明的？ **莱文：** 哦，我觉得这很有趣，因为我们在对人类心智知之甚少的情况下，却对人工心智如此兴奋。 **斯特罗加茨：** 完全正确。 **莱文：** 所以我们试图跳过一步。 **斯特罗加茨：** 是的。不仅仅是人类心智，还有动物心智，对吧？所以我们有比较心理学这个领域，研究鸟类、狗、海豚等的智能。嗯，关于智能，除了我们成人人类智能之外，我们还有很多东西需要了解。 **莱文：** 是的，我们居然天真地认为能简单理解生成人工智能的机制，而我们却连婴儿出生或发育时达到其智能水平的机制都不明白。我的意思是，将这两者结合起来真的很有趣。所以我很期待这期节目。 **斯特罗加茨：** 很好。那么让我们开始和梅兰妮·米切尔的对话吧。有请梅兰妮。 [*音乐播放*] **斯特罗加茨：** 你好，梅兰妮。 **梅兰妮·米切尔：** 嘿，史蒂文。 **斯特罗加茨：** 很高兴再次见到你。这会很有趣的。我们上次交谈是在几年前，当时这个节目还叫《为何之乐》，我想你可能是我们第一位回归的嘉宾。 **米切尔：** 天哪，我感到很荣幸。 **斯特罗加茨：** 你应该感到荣幸。而且，我邀请你回来是因为人工智能领域似乎发生了太多变化。我们上次交谈大概是2021年，而ChatGPT的浪潮在2022年11月左右席卷了世界。对吧？ **米切尔：** 对的。 **斯特罗加茨：** 所以每个人都知道人工智能无处不在。我们似乎一直在谈论它。人们担心它。有些人对它感到兴奋。它当然被广泛使用。我想首先问问，过去几年最让你惊讶的是什么？ **米切尔：** 哦，哇。有太多让我惊讶的事情了。光是想到仅仅通过在海量的人类生成的语言、图像等上训练这些模型，我们就能达到今天的程度，这是我从未梦想过的。所以我对人工智能的发展感到非常惊讶。另外，人工智能社区和整个社会出现的两极分化反应，我觉得也有点让我意外。 **斯特罗加茨：** 两极分化是指，比如，有时人们会区分人工智能悲观主义者和人工智能乐观主义者。你说的是这种类型吗？ **米切尔：** 这是一个方面，然后还有另一个方面：有些人认为人工智能比人类聪明，而另一些人则认为它距离类人智能还差得很远很远。我猜与此相关的是“爱它”和“恨它”的态度。这些是不同的维度，但可能彼此相关。 **斯特罗加茨：** 而且，对，“爱它”和“恨它”也可能与环境影响、某些公司的经济繁荣，但话说回来，对就业的影响呢？这涉及太多维度了。 **米切尔：** 哦，确实有很多维度，是的。 **斯特罗加茨：** 但我今天真正想和你聚焦的是复杂系统、认知科学、人工智能。你身兼数职，但我非常好奇你一直从事的工作——通过发展心理学（就像我们试图理解人类婴儿这种“外星智能”的方式），或比较心理学（像我们宠物狗、聪明鸟类或海豚这类“外星智能”）的视角来审视人工智能。我的意思是，看待人工智能这种“外星智能”，这是个非常有趣的视角。 **米切尔：** 是的。很多人将人工智能描述为一种外星智能，因为它与人类非常不同，尽管它是在人类语言、书籍和互联网上的一切上训练出来的。但这些系统的工作方式、学习方式、推理方式以及它们做事的方式，真的与人类的方式非常不同。 这个主题实际上被发展心理学界的人士，特别是斯坦福大学的迈克·弗兰克所采纳，他写了一篇论文，主张人工智能领域的人应该从婴儿和幼儿研究，即发展心理学中汲取灵感。然后其他人又将此扩展到：动物智能呢？我猜认知科学界人士一直敦促的一件事是，人工智能界实际上应该采用一些实验方法，让人工智能更像一门科学。 **斯特罗加茨：** 是的，我真的很喜欢这个观点，我想我们的听众可能不太熟悉。我承认我自己也不太熟悉。你知道，我从未学过认知科学，也从未上过发展心理学课程，而这些领域的人士一直在思考这些问题……嗯，我不知道。你告诉我。 **米切尔：** 是的，至少有一百年了。 **斯特罗加茨：** 一百年了。哇。我在来的路上一直在想，我们总是把人工智能说成黑盒子。我们很难解读神经元上的权重，或者即使我们能解读，也不知道它们告诉我们什么。但同样地，我们自己的智能在很多方面不也是一个黑盒子吗？ **米切尔：** 绝对是。我的意思是，我们有不同的方法来打开这个黑盒子。一个是神经科学，我们实际上将探针插入神经元，或者使用fMRI或其他成像技术。还有心理学，你直接观察人或动物的行为，并试图从中推断其底层机制。 这两者长期以来一直相当分离。但认知科学领域试图整合它们，最初，认知科学也包括人工智能。不知何故，这种整合没有成功。 **斯特罗加茨：** 你是说在社会层面没有流行起来，还是什么意思？ **米切尔：** 你知道，最初人们认为我们将按照人类工作的方式来编程它们。人类心理学与试图将人类心理学构建到人工智能中的人之间有着非常紧密的联系。然后这实际上在人工智能领域并没有取得成功，不像我们现在看到的神经网络和从数据中学习，而不是试图编程进去。 **斯特罗加茨：** 我明白了。 **米切尔：** 而神经网络本身最初也是受神经科学启发的，但如今神经网络的工作方式已与最初的灵感大相径庭。所以我认为机器学习领域更多地走向了统计学方向，这与认知科学的工作方式相当不同。 **斯特罗加茨：** 所以在这一点上，我想谈谈基准测试，因为它们似乎确实是当今社会广泛讨论的一个重要部分。最近在数学界有一件事引起了很多人的热议。其中一个最新的前沿模型做出了一些看起来像创造力的事情，解决了一个古老的、长期存在的数学问题——伟大的匈牙利数学家保罗·埃尔德什留下了很多问题供人们思考，其中被称为单位距离问题的一个，最近被人工智能以一种非常巧妙的方式解决了，它将两个数学部分结合在了一种之前从未尝试过的方式中。我提出这个是因为上次我们交谈时，我们谈论的是一个学习玩某个雅达利游戏的旧人工智能。你谈到它玩得有多好，但如果你把挡板向上移动几个像素之类的东西，它就必须重新学习。它完全不知道如何处理原始游戏的任何微小变体。 所以你当时说的话一直萦绕在我脑海中：“奇怪的是，这些机器似乎无法将其卓越能力转移到训练领域之外的任何其他领域。”那是五年前。现在我想知道，你怎么看？这还是事实吗？ **米切尔：** 是的，我的意思是，那个特定模型不是大型语言模型。它是专门用来玩雅达利游戏的模型。而现在我们有了在所有东西上训练的大型语言模型。在某种意义上，它们不需要转移任何东西。它们已经被训练过了。但是，人工智能或机器学习界的人谈论分布内和分布外的问题，意思是：我们要求模型做的事情是否类似于它在训练数据中见过的东西，还是完全不同？ 我觉得这很难知道。我们不知道它在什么上被训练过。解决这些问题的模型肯定在大量数学知识上训练过，因为互联网上有很多数学内容。它在教科书上训练过。它在史蒂文·斯特罗加茨在YouTube上的所有视频上训练过。这些模型非常擅长从一个领域提取东西，并将其与另一个领域结合。 但是，当某些东西已经在所有东西上训练过时，我不知道如何讨论这种转移的概念，尤其是在数学这样的领域。 **斯特罗加茨：** 嗯。 **米切尔：** 你知道，“在所有东西上训练”我认为在某种程度上有一些意义。如果你说它在所有与人类相关的东西上训练过，显然不是这样。但如果你说它在所有与数学或代码相关的东西上训练过，我不知道。所有的数学知识都以某种文本或视频形式存在吗？ **斯特罗加茨：** 嗯，你问到我了。我意思是，最近在我们数学界引起轩然大波、让我们试图理解刚刚发生了什么的事情是：我们曾经认为，“好吧，这些机器非常擅长搜索”，或者，“这些程序擅长在大空间中搜索”。它们拥有巨量的知识，因为正如你所说，它们吸收了整个互联网和国会图书馆，以及任何你能读到的东西。 所以任何涉及知识、搜索能力、快速计算和记忆的东西，都构成了它们的优势。但是，要发现之前未被注意的不同领域之间的联系，并利用它来解决一个长期存在的问题，如果是一个人做到了，我们会认为那是审美上的高潮。 你知道，数学家们喜欢拓扑学的思想被用来解决几何问题，或者代数思想提供帮助。但话说回来，也许这有点容易。如果你知道所有已经做过的事情，并且可以寻找许多可能的联系，也许你会偶尔幸运。所以这里似乎就是这么回事。 **米切尔：** 是的。不，我认为这是对的。我不知道……谁知道它是怎么发生的，因为很多原因，我们无法真正很好地观察这些模型的内部。但将两个意想不到的东西结合在一起并产生实际效果，这确实很有创造性。我认为这是有创造性的。但这让我想起，也许在70年代，有一个数学发现程序，是由道格拉斯·莱纳特做的。我想它叫EURISKO。它基本上试图在数学中发现新思想。它明确地试图将东西结合在一起，粘合起来，它会生成成千上万的这些东西。 其中大多数都是垃圾，但偶尔它会提出一些有趣的东西。必须由人进去看，说：“这有趣吗？”机器自己无法判断。所以这里有多少是这种情况？我不知道。我认为这里的区别在于，机器显然规模要大得多，我不知道它在解决这个问题的过程中生成了多少推理步骤，走了多少条错误的道路，以及它如何知道自己走在正确的道路上。我的意思是，我认为这些是人工智能科学的一部分，而目前还没有足够的人去追求。 **斯特罗加茨：** 是的，我们现在就来谈谈这个，因为这正是我想和你深入探讨的。“人工智能科学”是个不错的说法。梅兰妮，我想鼓励大家阅读你关于评估人工智能认知能力的六项原则的这篇文章。但作为预告，你能阐述一下这六项原则是什么，并简单说明一下吗？ **米切尔：** 当然。第一项是意识到你自己的拟人化认知偏见。我们倾向于投射人类……