为什么人工智能不可能实现——1984年苏联学者对人工智能的看法

Reddit r/artificial 论文

摘要

1984年苏联学者A. V. Brushlinsky的文章,从辩证逻辑和科技哲学角度论证人工智能不可能实现,认为机器的'分离式'结构与人类思维的连续、有机过程有本质区别。

来源:https://archive.org/details/MarkovCyberneticsTodayMir1984/mode/1up # 为什么人工智能不可能实现 A. V. BRUSHLINSKY 现代控制论学者希望对"计算机能否思考?"这一问题给出肯定回答,这种愿望以各种形式表现出来。一种路径是尝试创造人工智能或机器智能。这些尝试受到了科学家们的批评,他们从激进的控制论立场出发,基于哲学心理学层面的论证,认为机器智能是不可能的。这种批评最早于20世纪50年代末和60年代初在苏联由S. L. Rubinstein、E. V. Ilyenkov、M. M. Rosental等研究者提出,涉及对自然智能与人工智能的批判性比较。在我看来,这种方法应继续沿以下思路展开。 技术(例如人工智能)与心智(例如心理过程)建立在本质不同类型的元素间相互联系之上。任何由人制造的机器都是由明确定义的、分离的零部件、组件、模块等构成的统一体。各个部件之间的这种内在分离性,不仅体现在整体的结构或"形态学"上,也体现在其运行方式或"生理学"上。正如M. Minsky恰当地指出的那样,机器和自动化系统以清晰、"离散"的步骤从一个状态切换到另一个状态。最简单的例子就是电动机——驾驶员启动它、变速、关闭它。统一整体内部元素之间的类似关系也存在于数学集合这一概念中,许多专家认为集合是数学的基础。我们将此类关系称为分离式(disjunctive)关系。因此,数学和工程学都是分离式的:它将技术中实现的元素间相互关系加以理想化。离散数学和连续数学均如此。在这个语境下,"分离式"一词比更具体的"离散"一词更为恰当,因为后者不可避免地与离散数学(相对于连续数学)联系在一起。 因此,数学集合、机器和自动化装置都代表了基本相似的分离式系统的不同变体——它们由本质上独立的元素组成,这些元素在统一体内部是彼此分离的。 心智的功能则代表了一种根本不同类型的系统。以人类心理活动的实际过程为例,它绝非上述意义上的分离式的。自然思维过程的各个阶段和元素是如此有机地联系在一起,以至于不能将其与分离式的、独立的机器部件或集合元素相类比。此类心理过程的各个阶段相互重叠、交织,彼此在发生学意义上衍生而来,等等。心理过程各组成部分之间关系的非分离性特征已被实验证明——研究表明,思维过程(例如问题的解决)总是对给定问题的解决方案产生一种预测。这种心理预测使得在替代方案之间进行选择变得不必要。选择的必要性反映的是心理过程结果之间的一种形式逻辑关系,而非过程本身。这种选择是分离式的一种特殊但常见的实例,即替代方案之间的内在分离与相互排斥。 分离式关系在形式逻辑(尤其是数理逻辑)中得到了最充分的概括,在一定的抽象层面上,形式逻辑可以非常富有成效且前景广阔,尽管它与研究对象的发展相脱离。非分离式关系则在辩证逻辑的范畴中得到概括,它为研究对象的发展提供了必要的方法论基础。基于辩证逻辑的思维心理学也试图系统地研究心理过程的微观发展和宏观发展,以及其每个阶段、组成部分、操作等的转变。 因此,在塑造有意识和无意识心理过程时,这种连续性的最高层次(上述心理学意义上的连续性,而非数学意义上的)是非分离式的,即在发生学上是连续的。 由上可见,心理学意义上的持续性概念与数学(分离式)的概念存在根本差异。对分离式与非分离式的这种阐释,对机器"思考"这一总体问题,特别是人工智能问题,给出了清晰的回答。 人工智能——机器智能——在理论上是不可能被创造的,因为它本质上是分离式的,而自然的心理过程永远是非分离式的。机器和生物体的发展方式本质上不同。生物体由一个受精卵细胞发育而来,通过分化在单一、不间断的过程中演化。而机器则恰恰相反,是由人通过有意识地组装本质上分离的预制部件而创造的。在这方面,任何现代或未来的机器(包括计算机)都只能是一种人工的分离式构造,即从属于人及其活动的派生物。机器只能由人创造,别无他者,因此不可能是非分离式的。由此,人工智能是不可能的。 然而,被错误地称为"人工智能设计"的研究领域仍然是重要而富有成果的,因为当前和未来的机器是人类创造性活动和非创造性活动的必要工具(仅仅是工具!)。人过去是、将来也仍将唯一真正具备思考能力的存在。
查看原文

相似文章

1964年,中情局得出结论,苏联的人工智能研究与美国水平相当,并且可能超越美国。同年,在莫斯科一场有1000名科学家参加的会议上,一位著名数学家公开主张,一台“足够完备”的机器在法律上应被称为有思想的实体。

Reddit r/singularity

一份解密的1964年中情局报告显示,苏联在控制论框架下进行的人工智能研究与美国的努力水平相当,并且可能超越美国,同时苏联内部对机器意识问题进行了公开辩论。

为什么AI不能有意识?

Reddit r/ArtificialInteligence

作者质疑反对AI意识的直觉论点,并认为没有根本的理论障碍阻止机器实现自我意识。

AI的极限 - Hubert Dreyfus (1985)

Lobsters Hottest

Hubert Dreyfus在1985年的批评认为,由于未解决的常识知识问题和未能建模人类理解与具身性,符号AI是一个退化的研究计划。

如果AI比我们更聪明,做决定的将是它

Reddit r/singularity

作者讨论了AI一旦超越人类智能后可能自行决策的风险,认为AI在所有领域超越人类只是时间问题,并质疑阻止智能AI独立行动的长期可行性,提出以大量伦理文献作为训练数据或有助于对齐。

Understanding the inner thoughts of AI

YouTube AI Channels

本文讨论了人工智能可解释性的重要性,重点介绍了思维链推理作为理解神经网络内部工作原理的工具,并分析了其当前的有效性、局限性以及未来更强大模型可能带来的解读挑战。