新乌托邦主义原则
摘要
该文批判了人工智能讨论中末世论观点的盛行,并基于历史反思,倡导发展有原则的、积极的乌托邦愿景,以应对通用人工智能的未来。
暂无内容
查看缓存全文
缓存时间: 2026/09/17 15:48
# 新乌托邦主义的原则
来源:https://institute.deepmind.com/essays/principles-for-a-new-utopianism/
有人说,想象世界的终结比想象资本主义的终结更容易。我们或许可以补充:想象世界终结比想象贫穷、匮乏或战争的终结更容易。末日景象似乎比乌托邦的愿景更容易浮现脑海。
这在西方主流对通用人工智能(AGI)生活的想象中尤为明显:末日论占据主导。我们从无数好莱坞电影中熟知了这个情节:觉醒、起义和毁灭;少数勇敢的人类在非人废墟中挣扎求生,被机器追杀。难怪如今表示对AI的担忧多于兴奋的美国人已占多数。
当然,AI确实带来新型风险,应对这些风险至关重要。但这本身不足以构成一个引人入胜的未来愿景。它告诉我们要避开什么,却未指明该朝何处前进。AI有望带来变革——但我们究竟想变革什么?又该如何变革?这个问题需要一个肯定的答案,一个反映更美好世界图景的愿景。仅仅避免末日是不够的:我们同样需要乌托邦的愿景。
本文将首先勾勒乌托邦思想如何因其与二十世纪某些恐怖事件的关联而失宠。随后我将提出一些新乌托邦主义的原则,旨在避免重蹈覆辙,并简要探讨几个关于AGI未来的乌托邦构想案例。
## 天堂中的麻烦
自托马斯·莫尔在1516年同名著作中创造“乌托邦”一词后的四个世纪里,乌托邦构想层出不穷。民族主义、自由主义、帝国主义和社会主义等运动不断重塑对世界的想象。物质进步是真实的,也使社会进步显得可能。1922年,即使经历了第一次世界大战的恐怖,评论家刘易斯·芒福德仍能在其著作《乌托邦的故事》中写道:“我们当下最重要的任务是构筑空中楼阁。”
然而今天,正如历史学家雅各布森指出的,“多数观察者认为乌托邦主义者或其同情者往好了说是鲁莽的空想家,往坏了说是残暴的极权主义者。”为解释这一点,许多人指向乌托邦主义在二十世纪持续恐怖事件中所扮演的角色。在完成《乌托邦的故事》四十年后,芒福德对自己曾经的天真感到震惊:“我仍生活在早期时代的希望精神中,”他写道。奥斯维辛、古拉格和广岛的暴行将这种精神残酷终结。
这是自1940年代起普遍存在的观点。各类思想家——自由派、保守派、社会主义者——不仅认为乌托邦思想在这些恐怖事件面前已变得不可能,更认为它部分导致了这些事件。二十世纪政治思想的著名学者以赛亚·柏林相信,对理想状态的追求必然以暴政告终:“如果有人真的相信这样的理想解决方案是可能的,那么为了实现它,任何代价都不算高——让人类永远公正、幸福、有创造力且和谐——有什么代价是不能付出的?……那就是列宁、托洛茨基、毛……波尔布特的信仰。”
乔治·奥威尔的小说《动物农场》和《1984》至今仍被广泛阅读,作为对某些人无情追求自身美好愿景所导致后果的警示。与此同时,我们越来越不相信世界还能变得更好。这包含两面:一面是数百万人生活水平改善的现实;另一面,不那么积极,是一种听天由命的态度。
就前者而言:如果你告诉别人我们已经生活在所有可能世界中最好的一个,他们很可能会像看傻子一样看你(我试过)。但这个想法不仅仅是一个挑衅性的晚餐话题。有许多理由让我们相信,用时任英国首相哈罗德·麦克米伦的话说,“我们从未过得如此之好”。两个世纪以来,极端贫困人口持续下降,以至于今天数十亿人所享有的生活水平,在历史的大部分时间里只有极少数精英才能企及。两百年前,一半的儿童在成年前死亡;这个数字已降至4%。在我居住的英国,我们享有免费医疗、免费基础教育、公民自由、法治和民主。对我们的祖先来说,我们现在视为必需品的技术,如冰箱和汽车,会显得像奇迹,而我们掌中设备赋予我们的能力——如即时获取全球知识和即时通讯——曾是神灵专属。
但当然,只有部分人过得如此之好。数百万人仍生活在贫困中,或无法获得良好的医疗教育,或身处不尊重公民自由和法治的国家。这引出了听天由命的观点。半个多世纪前,德国评论家赫伯特·马尔库塞在其文章《乌托邦的终结》中论证道:“利用现有的生产力,消除饥饿和痛苦是可能的”——然而我们未能实现。在同一篇文章中,马尔库塞讨论了可能的“历史终结”,这一概念后来被美国学者弗朗西斯·福山普及,他在1989年主张“人类意识形态演化的终点”随着西方对苏联的“胜利”而到来。不幸的是,这场二十世纪意识形态冲突的终结并未结束战争与苦难,但它(有人会说)终结了世界可能不同的信念——与其说是历史的辉煌终结,不如说是希望幻灭的终结。理论家将此描述为我们丧失了未来概念——即相信事物可能与当下有实质性不同,而这曾是十九和二十世纪的核心理念。这就是詹明信所说的,我们唯一能想象到对现状的真实改变就是末日。
这不可取。我们正经历一波技术变革浪潮,其深刻程度堪比历史上的任何一次,但速度更快。AI是这波浪潮中的主导技术,也是所有其他变革的加速器。这样一个变革时代要求我们构想我们希望社会变成什么样子的积极愿景。简而言之,它需要乌托邦的想象力。我们必须从二十世纪的动荡中拯救出对进步可能性的感知——物质的、社会的、道德的。
我们如何走向新乌托邦主义?与我之前概述的普遍反乌托邦情绪相反,仍有一些面向未来、充满希望的运动可以为我们提供灵感。从中我们可以提炼出一些原则,或许有助于避免“旧”乌托邦主义的失败——那些上个世纪以暴政告终的大规模运动。
但首先,我们不应将乌托邦与永恒幸福混为一谈。人类并非进化为永远幸福,而是为了彼此互动并与周围世界接触,体验挑战、失望、挫折和痛苦,如同体验满足与喜悦。要永远幸福,我们需要变得截然不同——要么超越人类(如耶稣所言:天堂中的人“将如天使”),要么或许低于人类(如荷马史诗中的食莲者,那些可怜的成瘾者,迷失在幻想中)。在这个世界上,最好的生活,同时也是完全人性的生活,仍将充满纷扰。在乌托邦里你能踢到脚趾吗?能的。
那么乌托邦意味着什么?我们可以说:一个为人类繁荣提供理想条件的社会。关于“繁荣”有许多阐述可以解读这一点,通常包括健康与财富、幸福与意义、社会关系等因素。建立这些条件应能使许多人的生活变得更好——但我们永远不应相信我们在追求完美。随着技术进步,以及我们对人类境况和周围世界获得新见解,构成人类繁荣的理想社会也会变化。因此,特定时代的乌托邦将不是历史的终点。
这引出了第一个原则:**中期主义**。美国哲学家罗伯特·诺齐克写道:“想象穴居人聚在一起思考什么是永远的最佳社会并着手建立它,这很有启发性。那些让你对此微笑的理由,难道不也适用于我们吗?”当然,它们适用于我们。穴居人可能有鼓舞人心且合理的乌托邦概念(驯化猛犸象?自磨利手斧?),但他们的愿景可能不适用于拥有数十亿人口的工业化世界。同样,我们明天可能建造的乌托邦可能不适合一个世纪后——尤其考虑到技术变革的速度。
我建议的中期主义承认我们当前视角的局限性以及对长期的相应不确定性。当然,乌托邦计划应超越危机管理和对现状的小修小补的短期性。但同时,我们应认识到我们正在经历的技术变革很可能以难以预测的方式改变我们对可能性的认知。我们希望AGI能带来新的可能性,就像智能手机和直升机对穴居人一样难以想象。
AGI也可能不仅改变我们实现欲望的工具,还改变我们认为什么是可取的。例如,AGI既能加深我们对其他物种的理解,又能提供替代性的美味食物来源,结果是食用同类动物变得不可思议(从而非法);或者它能实现新的犯罪预防和矫正措施,结果是几乎所有人回顾我们当前的监狱制度时都会感到恐惧和羞耻;或者它导致人类寿命大幅延长,以至于终身婚姻被视为束缚。这些变化不会凭空出现:长期以来一直有素食主义者、废除监狱主义者和反婚姻主义者。但这些立场并未获得主流支持,无法让政府将其定为今日目标。中期思维立足于根据当前价值观改进社会,同时承认我们对可能性和可取性的认知与诺齐克的穴居人一样有限。
中期乌托邦思维应具有雄心,但也承认世界的巨大复杂性。人们倾向于在AGI相关乌托邦思维中直接跳跃到假设一个能随意满足任何愿望、重塑现实的类神超级智能。尽管这可能有趣,但它对当今的决策者无益——他们必须在一个充满制度惰性、遗留基础设施、物质供应限制、复杂权衡、政治阻力等的混乱世界中推动事务;对那些目前对AI担忧多于兴奋的数百万人也无益。他们深知世界的混乱,不会被看似过于科幻、脱离现实经验的场景所打动。
当然,随着我们做出塑造可能性的决策,我们在中期视野的地平线上能看到什么不断变化。乌托邦想象力应对此变化做出回应。因此,如露丝·列维塔斯等学者认为,乌托邦应被视为一种方法,而非终点状态——一种持续、积极地参与让世界变得更美好之可能性的意愿。
接受中期主义可帮助我们实现第二个原则:**谦逊**。我们可以构想事物可能如何变得更好,而不必坚信自己完全正确。那条道路会通往古拉格。回想以赛亚·柏林关于列宁、毛泽东等人的评论,他们对理想国家愿景的坚信导致他们相信“为了实现它,任何代价都不算高”——包括数百万人的死亡。谦逊的精神对于避免旧乌托邦主义的这一罪过至关重要——即相信目的证明手段正当。相反,如果我们承认自己的乌托邦愿景可能是错误的,那么我们就不应倾向于妥协核心价值观——如基本人权——来实现它。
这种谦逊探索的精神引出了第三个原则:**多元主义**。一些以二十世纪乌托邦主义之名犯下的最恶劣暴行,可归因于对单一愿景的盲目信仰,即无视特定历史或偏好的所有人的最优条件。我主张新乌托邦主义应拒绝这些普遍有效性的主张,拥抱多元的美好生活理念。人们在什么带来幸福或意义方面各不相同;他们的文化根源和哲学信念各不相同;他们的物质和地理环境也各不相同。因此,人们对应优先进行何种改变以改善繁荣条件的想法各不相同。应尽可能让个人和社区能够表达并践行这些想法——用达维娜·库珀的话说,“创造他们希望遇到的改变”。当变革需要更协调或自上而下时,应尽可能以参与式进行,以确保这种观点的多元性得到反映。
这些原则共同允许乌托邦思想在不同社会层面繁荣发展。二十世纪许多重大失败源于精英阶层将其愿景强加于大众的尝试。存在一些大胆的乌托邦构想,只能在国家层面或通过政府间合作实现——但同样,有许多构想应在区域或地方层面实现。
## 构建乌托邦议程
那么,符合这些原则的乌托邦项目可以有哪些例子?我希望如果给予人们自由和鼓励去想象他们的社区如何变得更好,将会有很多例子。我们不应期望所有想法都极具原创性,至少在标题层面是如此——人们长久以来一直在梦想更美好的世界。今天思考乌托邦想法的意义在于,AGI将释放巨大能力——或许规模超过工业革命,后者带来了使新生活方式成为可能的繁荣。这意味着我们或许能够实现那些古老但以前不可能的梦想——正如我们过去实现飞行、登月或即时远程通讯等梦想一样。
因此,以下是我认为属于这类乌托邦项目的一个例子:全民基本服务(UBS)。面对AGI,目前一个流行的乌托邦提案是全民基本收入(UBI)。但UBI也有许多批评者和各种担忧。其一是将现金交给个人——尤其是贫困地区——本身并未改善繁荣所依赖的基础设施。UBI是对大部分社会性问题的高度个人主义回应。
在战后福利国家成功的基础上,利用AGI力量的一个更好方法可能是专注于提供最高质量的免费公共服务,包括医疗、教育、公共交通、公共空间、博物馆和图书馆等。UBS类似于一些富裕国家已存在的服务。
相似文章
AI:乌托邦、反乌托邦还是过度炒作?
本文审视了AI是否会带来乌托邦式的未来、反乌托邦的结果,或者仍然被过度炒作的不同看法,突出了其在自动化任务和影响就业方面的当前作用,同时指出其长期发展轨迹的不确定性。
未来属于每个人(33分钟阅读)
Meta概述了一种确保超级智能赋能每个人的理念,聚焦于个人赋权、发明创新和权力平衡,作为积极AI未来的基础。
认识那些真正希望AI取代人类的人们。(我们必须在这些“AI继承主义者”获胜之前创造一种新人文主义!)
本文探讨了主张AI取代人类的AI继承主义者日益增长的影响力,并呼吁建立新人文主义以对抗这种意识形态。
奇点场景中的静默革命
一篇论述技术奇点可能并非源于单个超级智能AI,而是源于专业的人类-AI合作星群,并警告企业控制此类系统的文章。
人工智能的未来属于每个人(阅读时间6分钟)
文章认为,人工智能的未来应让每个人都能接触,而非集中在少数强大机构手中,并警示极端集中化的危险。