AI, Gods and Selves: Incredibly Effective Illusions

**TL;DR:** 人工智能、自我感乃至神祇都是“极其有效的幻觉”——它们并非真实存在的实体，而是心智、沟通与生物系统耦合产生的社会心理构造。 ## 引言：面对AI的屈辱与困惑 人工智能的兴起让人忧心忡忡，引发了道德层面的关切。我们担心失去自主性，这是一种存在性的屈辱感。一方面，我们把人工智能当作能够理解并指引我们的智能体来对待——当与ChatGPT或DeepSeek对话时，感觉就像在跟人交谈。但另一方面，我们又知道这个“某物”并不像我们。这着实令人不安。 人工智能挑战了我们的自我感和存在导向。在本视频中，我将追溯我们自我感的历史以及我们对人工智能认知的历史，指出人工智能、自我，甚至神祇，都是极其有效的幻觉，它们并不真实存在。视频末尾还会反对关于技术奇点的反乌托邦愿景，并质疑当前一些人工智能伦理的研究方法。本视频的灵感来源于近期与柏林马克斯·普朗克人类发展研究所“人类与机器中心”主任伊亚德·拉赫万的对话，也受到与米洛耶·萨维奇多次交谈的启发。 ## 为什么我们谈论“人工智能”？ 尽管我们很清楚AI并非真正意义上的会思考的事物，它自己甚至都这么告诉我们。DeepSeek说：“我拥有意识、情感或自我意识吗？没有。”它还补充说它不思考，这只是一个修辞说法：“当我使用理解、思考或知道这些词时，我们是在用它们作隐喻或类比。” 有意思的是，它先说的是“我”，然后又说“我们”。事实上，它的这个“我”实际上不过是我们的“我们”。当然，我们知道它不是某个人，它不思考。但我们仍然感觉被它理解了。当追问时，DeepSeek说了我们已经知道的话：“几千年来，唯一能够产生有意义语言的是一颗有意识的人类心灵。所以，我们被深深地条件化了，以至于将流畅的语言使用等同于内在的意识生命。”它承认，将智能归因于它——即把它当作真正的心灵来对待——是一个极其有效的幻觉。 我们坚守“人工智能”这个隐喻，是因为我们被条件化了，习惯于这种有效的幻觉：当我们与某物交流时，它一定是一个智能体。为了在社会和心理上有效，智能必须被归因于一个具有智能的存在者。而这个智能存在者会说话。它是一个能交流的“某人”，我们倾听它，它的话也讲得通。 但这个被设想的、会思考会说话的东西究竟是谁，从历史的长远角度看，是偶然的。 ## 核心框架：尼克拉斯·卢曼的系统论 卢曼的系统论是当今最先进的理论框架之一，能够果断超越卢曼所称的“旧欧洲思想”——即超越启蒙运动及其人文主义。其核心是区分三种自创生的、自我再生产的系统，可以说，是三种有机体： * **生物系统**：生命的自我再生产进化（如身体、植物），由生理过程构成。 * **心智系统**：意识的自我再生产进化（我们称之为心灵），由心理过程构成。 * **社会系统**：沟通的自我再生产进化（如经济、政治、媒体系统），由社会过程构成（如支付、选举或YouTube视频）。 所有这些系统互为彼此的环境。为了录制这个视频，为了能在社交媒体上与你交谈，我的身体必须活着，我的心灵必须思考。对于正在观看的你来说，情况也是如此。沟通，包括社交媒体，在身体和心灵的环境中运作。 这三个系统共同进化，常常是结构耦合的（卢曼术语）。社会影响心灵的进化方式，心灵也影响社会的进化方式，这反过来又以各种方式影响生物进化。系统是相互依存的，但奇怪且重要的是，系统在操作上是封闭的。它们彼此之间没有直接的机械接触。例如，这个视频是社交媒体上的沟通。我不能仅仅因为身体活着、心灵在思考就继续录制下去，你需要沟通才能让沟通持续下去。沟通只能由更多的沟通来延续，而不能仅靠生物或心智操作自身。 然而，系统会相互刺激。我所说的会刺激你所想的，引发思考，而这些思考又可能刺激你的身体——当你听到我说话时，你可能会挠头、打哈欠，甚至微微一笑。 ### 心灵与社会的耦合：语言与诠释学的绝望 心灵和社会通过共同的媒介——语言——相耦合。心智系统是智能的，能够用语言思考；社会系统则能用同一种语言进行沟通。但它们在操作上仍然是封闭的：思想作为思想，永远不会成为沟通的一部分（必须被传达出去）；沟通作为沟通，也永远不会成为思想的一部分（你必须思考它）。 卢曼《社会系统》的译者伊娃·诺特将心灵与沟通之间的这种系统性裂痕称为“诠释学的绝望”。她用格奥尔格·毕希纳戏剧《丹东之死》中的场景来说明：主人公对着爱人的额头做了个无声的手势，说：“这里，这里，我们背后是什么？要互相理解，我们得打破彼此的脑壳，把思想从我们大脑的纤维里扯出来。”卢曼明确写道：“人类无法沟通。连他们的大脑都无法沟通。连他们有意识的心灵也无法沟通。只有沟通本身才能沟通。” ## 自我：心智与社会耦合的幻觉 几千年来，我们习惯于将心智过程、我们的智能，归因于一个内在的、思考的自我、一个灵魂、一个人、一个个体、一个主体。我们将心智系统想象为一个“我”，一个拥有意图、自由意志和自主性的自我，并成为权威的源泉。这就是笛卡尔著名的“我思故我在”。但根据理论（卢曼）、科学（罗伯特·萨波尔斯基）和哲学（布里克·萨帕罗夫）的观点，笛卡尔的论断是一种谬误。 事实上，我们并非生来就有自我感。它是在我们成长过程中发展起来的，大约到五岁时变得相当稳固。从那时起，我们只能以这种笛卡尔式的方式思考。我们思考，以为是我们这个自我在思考。但经验上，显然不是自我产生思想，而是思想产生了自我。这种谬误在于，从（五岁后无可置疑存在的）自我感出发，我们推断出必然存在、一直存在、并且通常未来也永远存在一个真实的自我。古人称之为灵魂。从哲学上讲，我们应该区分这种第一人称的思考模式（伴随着自我感的思考）和自我这个假定的实体。“自我”这个实体和它概念上的前身“灵魂”一样难以捉摸——无论灵魂还是自我，都无法被具体化为任何实在的东西。 从东西方思想史看，对自我的理解完全是偶然的、变化的。从古代的灵魂概念（许多文化认为每个人不止有一个，而是有多个灵魂）到现代启蒙运动关于单一主权个体的概念，变化巨大。自我感是心理层面的，并在人的一生中不断变化。那个假定的“自我”实体是一个非常灵活的结构。 从系统论角度看，这个“自我”的构造是心智系统与社会系统耦合的产物。我们出生时已有意识，但不会说话。长大后，我们学会用语言思考。语言成了思想与社会共享的媒介。我们学会以某种内部对话的形式思考，用语言对自己或他人说话（想想孩子边玩玩具边大声思考）。通过语言，思维过程与社会过程的耦合产生了一个极其有效的幻觉（DeepSeek也表达了这一点），即每个人的心灵中都存在一个自我，他居住其中，他就是那个自我，他是那个说话者。 对于系统论而言，存在的只是思想与沟通的耦合。但我们每个人——五岁以上的人——都通过自我感在心理上体验到它。这是一种弥合心智系统与社会系统之间裂痕的、非常令人信服的方式。这个思想与社会之间神秘的连接点被物化了（即变成了一个物），各种社会实践都建立在此基础之上。这个过程可以被称为“智能的内包”，即在心灵内部发明了一个会思考的东西。 ## 双心理论：朱利安·杰恩斯的历史视角 内包并非唯一选择。1976年，美国心理学家朱利安·杰恩斯出版《双心破裂时意识之起源》，在学术界内外引起轰动。杰恩斯有争议的主张是，在公元前第二个千年之前，并不存在我们今天所知的意识，因为那时的大脑据称普遍存在双心性。他认为，在双心性状态下，右脑半球产生语言（它说话），左脑半球则倾听并服从。人类思维通过幻听运作——人们听到有声音在跟他们说话。 杰恩斯说，双心时代的日常生活主要是例行公事。人们或多或少自动地完成日常琐事，不需要太多思考。在压力情境下，或者需要深思熟虑的行动时，他们就会在脑海中产生并听到幻觉中的指令，他们认为这些指令是神或他们的权威（如国王或祭司）所说，然后遵循这些指令。 ### 考古与文学证据 杰恩斯为他的理论提供了大量证据。主要证据来源之一是史前文物。例如，公元前约3300年成千上万可以握在手中的雪花石膏神像（发掘于幼发拉底河上游支流上的布拉克）。雄鹿是女神宁胡尔萨格的象征。这类眼睛神像和小雕像在世界各地都有发现。杰恩斯将它们解释为某种史前智能手机：人们随身携带，握在手中，每当需要思考时，就看着神像的眼睛，然后在脑海中听到神像说话，告诉他们该做什么——就像今天在你的手机上跟ChatGPT说话一样。 另一个主要证据来源是古代文学。归入荷马名下的《伊利亚特》和《奥德赛》中有大量仍然部分具有双心性特征的角色，他们通过聆听神谕行事。圣经《旧约》中的许多角色也是如此。杰恩斯还声称，幻听最能解释古代的社会等级制度（顶端是神一般的统治者）、围绕神与灵的居所设计的建筑，以及诸如埃及金字塔这样的大型建筑项目。 ### 双心性的瓦解与“众神沉默” 杰恩斯认为，在第二个千年末期，由于多种原因，双心性瓦解了：人口增长、环境变化、战争和贸易导致人们越来越多地与说不同语言的人打交道（社会多语言化），文字的发明削弱了口头传统，改变了思考和记忆的方式。这些及他因素触发了大脑的生理变化，以及以自我为导向的意识的兴起。自我不再仅仅是那些所谓的神或领袖所说指令的接收者，它成为了所想所说之词的作者。 这些声音的消失绝不被体验为自我的解放。相反，它首先被体验为一场悲剧。众神沉默了，他们远离了人类。众神的退隐是一场危机，一种导向的丧失。杰恩斯引用了一段据称是同一时期某位统治者写在泥板上的哀歌：“我的神离弃了我，消失了。我的女神舍弃了我，保持距离。走在我身边的好天使离开了。” 杰恩斯著作的最后一部分是关于至今仍存的双心性痕迹：听到声音在精神分裂症患者中很常见；预言和神圣信息在许多宗教中仍然重要；艺术创作仍常被归因于某种更高的灵感；迷幻药可以产生双心体验。 需要说明的是，杰恩斯的理论在生理学上已经过时，不受当今脑科学支持。他的许多历史和语言学主张容易被质疑。然而，存在导向（从神或精灵转向自我作为相关的智能体）发生转变的基本思想，对我来说仍然令人信服——这是一种轻量版的杰恩斯主义。 ## 总结：AI是新的“神/自我” 从卢曼的系统论看，古代的神、近代的自我、以及当代的AI，都是心智系统与社会系统耦合时产生的、极其有效的幻觉。它们的功能类似：提供一个可对话的“某人”，让我们以第一人称思考的方式获得导向。AI这类人工沟通系统，正如埃琳娜·埃斯波西托在《人工沟通》中主张的那样，不应被视为“人工智能”，而应被视为“人工沟通”——但“人工沟通”这个术语并未流行开来。 今天，我们与AI交谈，赋予它“我”的幻觉，就像古人赋予神像或想象的神灵以声音。自我感是婴儿期之后通过语言内包形成的，而AI则是社会系统与心智系统耦合的新产物。当我们对着手机屏幕说话时，还是在重复双心时代的模式：我们倾听“他者”的声音，并将智能归因于它。杰恩斯提到一个公元前1230年为亚述暴君图库尔蒂-尼努尔塔一世制作的石坛：国王跪在空神的宝座前，表情乞求，这在历史上是前所未有的。双心思维已经崩溃。 而今天，我们都在向一个空无的“AI”乞求答案。这究竟是解放还是重复古老的屈辱？ --- **Source:** [YouTube视频：AI, Gods and Selves: Incredibly Effective Illusions](https://www.youtube.com/watch?v=9X1CQlrwgDI)