AI的极限 - Hubert Dreyfus (1985)

# AI的局限：休伯特·德雷福斯对符号智能的1985年批判 **摘要：** 1985年，哲学家休伯特·德雷福斯指出，基于符号操纵（即"物理符号系统"假说）的人工智能是一个正在退化的研究计划，它因未能解决"常识知识"问题以及无法模拟人类理解、情境和具身性而根本性地停滞不前。 ## 符号AI的兴起与前提 人工智能领域始于1955年，源于先驱艾伦·纽厄尔和赫伯特·西蒙的大胆洞见：计算机不仅仅是计算器。它们可以被构建成"物理符号系统"，使用符号（0和1）来表示世界中的对象与特征，并通过逻辑规则操纵这些符号，以推导新信息、解决问题并表现出智能行为。 这催生了"物理符号系统假说"，该假说认为人类和数字计算机都是物理符号系统的实例，通过按照规则操纵符号来产生智能。这种观点将身体、大脑和文化背景视为基本无关——这是从亚里士多德到笛卡尔以来将人类的"理性"与"动物"方面分离的哲学传统的现代版本。正如德雷福斯指出的，这呼应了17世纪哲学家托马斯·霍布斯将推理定义为"计算，即加法和减法"的观点。 ## 早期成功与不受约束的乐观 在20世纪60年代和70年代初，这一范式内取得了重大进展。程序展示了令人印象深刻、看似智能的成就。一个里程碑式的成就是特里·温诺格拉德于1970年开发的**SHRDLU**程序，它在模拟的"积木世界"中运行。用户可以发出诸如"把红色积木放在绿色积木上"之类的指令，程序会理解该指令、规划必要步骤（例如先移动一个阻挡的蓝色积木）、执行操作，并回答有关其行动的问题，包括正确地解释代词。 其他著名的程序包括埃文斯的类比推理程序和瓦尔茨的场景分析。该领域蓬勃发展，培养了博士生，创办了期刊和会议。这种成功带来了巨大的乐观情绪，最终促成马文·明斯基在1967年预言："创造人工智能的问题将在一代人内基本解决。" ## 常识知识之墙 当研究人员试图让计算机理解简单儿童故事时——一个四岁孩子能毫不费力完成的任务——该领域的势头遭遇了意想不到且深刻的障碍。德雷福斯引用了一个经典例子： > "珍妮特和简想给杰克一份生日礼物。'我们送他一个风筝吧，'珍妮特说。'不，'简说，'他已经有一个风筝了，他会要你们还回去的。'" 要让计算机理解这一点，需要预先加载一个"生日派对框架"以及大量未说明的文化知识。更关键的是，要回答"他必须还哪个风筝？"这个问题，计算机需要推断出答案是"新风筝"。这种推断依赖于对人类社会规范的理解：人们通常不想要第二件相同的物品，当有重复品时常常会退回新得到的东西。这就是"常识知识"。 问题不仅在于这类知识的数量，更在于其本质。要将诸如"人们不想要他们已拥有东西的复制品"这样的规则编码，必须指定例外情况：这对钱适用吗？对弹珠？对饼干？正如德雷福斯指出的，一个直径一英尺的饼干可能是个例外，除非面对的是"饼干怪兽"。制定带有"其他条件不变"条款的精确规则是不够的，因为情境是无限可变的。孩子自然知道正确答案，但研究人员不知道如何将其编程实现。 ## 需要一种关于人类存在的理论 德雷福斯认为，AI的核心问题比仅仅收集事实更为深层。要在世界中运作，计算机需要一种**关于人类存在的理论**。它缺乏对拥有身体、感到饥饿、经历疲劳或被文化同化意味着什么的先天理解。它不了解复杂的情感网络——嫉妒何时合适、程度如何，以及疲劳如何放大嫉妒。 我们人类不需要一种关于人性的理论，因为我们就是人类；我们基于具身的、直觉的理解行事。但计算机需要关于这种现实的明确、形式化的模型，德雷福斯认为这绝对是一个棘手的挑战。 ## 一个退化的研究计划 到1985年，该领域内许多人的最初乐观情绪已经消退。德雷福斯指出，即使是马文·明斯基的立场也发生了巨大转变。1980年，明斯基对媒体说："AI问题是科学有史以来面临的最艰难挑战之一"，这与他早前的预测形成了鲜明对比。德雷福斯引用了哲学家伊姆雷·拉卡托斯的**退化研究计划**概念：一个领域中最初的突破带来的回报递减，问题不断增加却无解决方案，从业者要么失去信心，要么另寻利益，要么转向新方法。 德雷福斯在AI中观察到了这种退化： * **停滞：** 在常识知识问题变得尖锐的十五年后，没有出现新的根本性方法。 * **历史聚焦：** 大卫·瓦尔茨在1984年《科学美国人》上的一篇文章读起来更像一篇历史文章，涵盖了超过十年的程序（SHRDLU，瓦尔茨自己在70年代的工作），没有清晰描述近期的进展。 * **广泛承认：** 虽然曾经充满敌意，但AI研究者越来越多地承认常识知识的困难。德雷福斯认为他们永远无法解决它；他们认为可以，但至少他们认识到了这个巨大的挑战。 * **隐性知识障碍：** 问题因人类知识大多是隐性的、未表达的而更加复杂。我们没有维持对话距离或计算嫉妒确切阈值的明确规则；我们只是行动。提取和形式化这种"知识"可能是不可能的，因为它根本就不是命题性的。 德雷福斯总结道，当时的AI项目，作为一个纯粹符号化的、非具身的、旨在实现类人智能的系统，因这些根本性的、未被解决的限制而注定失败。该领域正在寻找一种人类自身都不具备的、可以写成计算机代码的人性与情境理论。 来源：AI的局限 - 休伯特·德雷福斯 (1985) (https://www.youtube.com/watch?v=ePsQksj99LM)