Q&A：AI 是如何学会建模“混乱”的人类思维的

MIT History Section 的助理教授 Benjamin Lindquist 认为，生成式人工智能模型的根基源于 20 世纪中叶工程师们的理念——他们认为，对于一台能够像人类一样思考的机器而言，一定程度的非理性是必不可少的。Lindquist 同时在 MIT Schwarzman College of Computing 和电气工程与计算机科学系（EECS）担任共享职位，并且是 Information and Decision Systems 实验室的首席研究员。 Lindquist 在《Past and Present》期刊发表的[一篇新论文](https://academic.oup.com/past/advance-article-abstract/doi/10.1093/pastj/gtag026/8943680?redirectedFrom=fulltext)中写道，为了模仿创造性思维，这些 AI 先驱有意地在原本为确定性解决问题而设计的算法中注入了随机性。他在论文中将 AI 幻觉的起源追溯到这段早期研究，并提出在试图构建能够模仿人类行为的机器时，创造力与可预测性之间将不可避免地存在权衡取舍。MIT News 就这些观点与 Lindquist 进行了对话。 **问：** 为什么早期的计算机工程师认为需要在为逻辑和计算而设计的 AI 系统中注入随机性和非理性？ **答：** 在科学和艺术领域，长久以来有许多人认为，偶然性在发现和创造中扮演着重要角色——在构思想法的能力中尤为如此。他们将创造力等同于意想不到的逻辑飞跃，甚至是一种能让人从全新视角思考事物的梦幻般的状态。 20 世纪 50 年代初，Bell Labs 著名电气工程师 John Pierce 提出的一个流行观点是，数学在艺术世界中具有价值。这一想法被许多早期计算领域的从业者所认同。当我们想到包含数学的艺术作品时，可能会觉得它非常有序而精确，但 Pierce 得出了相反的结论。他认为数学的用处在于能够为艺术引入秩序的瓦解。然后，通过精心设计的方式，数学可以迸发出意料之外的灵感，以此打破陈词滥调，并引入一种不规则性，而这种不规则性或许能带来新的洞察。 在原本可预测的计算机中加入不规则性的一种流行方式是通过人工（或随机）[神经网络](https://news.mit.edu/2017/explained-neural-networks-deep-learning-0414)。许多早期的神经网络由心理学家构建，他们认为，人工智能神经网络让科学家得以构建大脑模型，从而观察大脑内部的运作过程，包括大脑如何犯下"富有成效的错误"。研究者们相信，这些系统并非黑箱，而是可以打开心灵这个黑箱，让科学家一窥其中真正发生的复杂过程。 但 AI 领域还有另一个阵营，他们认为创造性思维不过是"普通"思维做得更好。审视这两种极为简化的理解智能与创造力的启发式方法，以及它们如何相互契合或不契合，是一件很有趣的事。当时的辩论焦点在于：人类的创造力究竟归结为何物，以及如何以机器的形式重构人类的创造力。 **问：** 早期的计算机工程师如何看待 AI？这与我们今天对 AI 的看法有何不同？ **答：** 当我们想到 AI 系统时，我们想到的是 ChatGPT 或 Claude。我们重视并使用这些系统，是因为它们给出的答案在大多数情况下是正确的。在这项研究中，最让我感兴趣的事情之一是发现，许多早期这些系统的倡导者重视它们的原因恰恰相反。他们想要一个偶尔给出偏离预期答案的系统。他们已经有能够给出合理且符合预期答案的系统。他们认为神经网络之所以有价值，正是因为它能给出出乎意料的、甚至可能奇特而怪异的答案。 我们今天对这些系统看法不同的一个原因可能与它们的运行方式有关。早期，这些系统被局限在实验室里，因此系统输出奇怪或错误结果并不会带来真正的现实后果。但现在，出于法律和经济原因，OpenAI 或 Anthropic 不希望聊天机器人给出出人意料或充满创意的答案。这些系统中的"怪异感"已经被逐渐磨平了。它们在核心层面可能仍然具备这种特质，但这种特质如今在很大程度上被抑制了。 **问：** 最初为模拟人类创造力而引入随机性的早期神经网络，是如何演变为 AI 领域的主导范式的？ **答：** 在很长一段时间里，一种名为"符号 AI"的特定 AI 类型是主导方法。符号 AI 的基本观点是，世界基于规则运行。AI 研究者的角色是尝试将世界的知识重构为事实和命题，然后将其输入计算机。 利用随机性解决问题的神经网络在 20 世纪 50 年代开始受到关注，但早期便失宠了。Frank Rosenblatt 是一位心理学家，也是神经网络领域非常重要的早期人物，他英年早逝；1971 年他在 43 岁生日当天意外去世。他是一位颇具魅力和影响力的人物，曾对基于神经网络的系统能够实现的功能做出过许多宏大承诺。到他去世时，向符号 AI 的转变已经在进行中。如果他活了下来，事情可能会有不同的走向。 但神经网络从未消失。到了 20 世纪 80 年代，它们更多地转向了认知科学领域。为了变得更强大、更有用，神经网络需要大量数据和计算能力。直到互联网的出现，大量数据变得可用，计算能力也开始提升，这些条件才真正具备。大约在 2012 年，神经网络开始超越一种统计形式的机器学习，此后不断发展壮大。 **问：** 我们可以从 AI 历史的研究中学到哪些能为其发展提供借鉴的教训？ **答：** 我认为这里有一个警示性的教训。这些早期工程师的想法和经验告诉我们，我们可以努力消除幻觉——我们可以努力让 AI 以某种特定方式运行，使其不产生出人意料或不受欢迎的答案——但这会带来其他后果。这些历史人物确实发现了某种重要的东西。AI 能够给出的令人惊讶的、富有创造性的结论与错误或幻觉之间存在关联。当我们让系统倾向于某一种行为方式时，总会存在权衡取舍。也许完全处于任何一端都是不可能的，但当我们坚定地朝某一个方向努力时，往往会在无意间牺牲其他东西。