吉尔·莱波雷博士谈为何对AI的抵制对未来至关重要

# 吉尔·莱波雷博士：为何对AI的反弹对未来至关重要 今天我对话哈佛教授、《纽约客》特约撰稿人吉尔·莱波雷博士，聊她的新书《人工国家的兴衰》，这本书将于8月25日出版。 吉尔是识别历史上制度模式的最佳作家之一，《解码器》是一档关于系统的节目，因此这本书简直就是我们的领域。 构建系统的方式是衡量事物——收集信息，将其量化为数据，然后采取行动。吉尔在书中的核心论点是，这种系统性衡量实际上是一种非人化的行为，它将人类关切的事物扁平化为某种……人工的东西。 这些人工结构触及一切——不仅在应用或AI等更明显的领域，甚至上溯到政治和治理本身，吉尔在此的见解生动描绘了大科技公司及其亿万富翁领袖们如何成功摧毁了国家本身的概念。 《Verge》订阅用户们，别忘了你们可以在获取播客的任何地方独家收听无广告版本的《解码器》。点击此处。还不是订阅用户？你可以在这里注册。 你会听到吉尔告诉我她想写一本"有点暴躁的书"，但在我看来，这本书相当直白地审视了过去一个半世纪的技术和社会发展，以及我们如何走到如今这个可能是机器掌管一切的地步。 吉尔的人工国家概念始于量化本身这一理念，从几千年前首次尝试进行人口普查，到20世纪30年代现代政治民意调查的发明。但她认为真正的重大转折点——也是我们讨论最多的时期——是在20世纪80年代，当时我们看到了今天硅谷文化的出现，电脑变得个人化，计算机辅助的目标定位和微目标定位真正变得既可能又普遍，既用于广告也用于政治竞选。 我和吉尔确实存在分歧的一点是她对互联网的一些悲观看法，因为正是互联网使得像我这样的工作、像《Verge》这样的企业、以及像《解码器》这样的节目成为可能。在20世纪末到21世纪，随着人们上网，确实发生了一场伟大的民主化准入运动，并非所有这一切都像阿拉伯之春后人们对Twitter的巨大期望那样虚无缥渺。 但正如我所说，吉尔以系统的方式思考，因此她关于权力系统如何不断适应人们使用新技术方式的回应，一如既往地富有启发性。 当然，我们还讨论了未来——包括她认为仍然能看到希望的地方。是的，这确实包括大学生在毕业典礼上对AI首席执行官们发出嘘声。 好的：吉尔·莱波雷博士，论人工国家。开始吧。 *为篇幅和清晰度考虑，本次采访已进行轻微编辑。* **吉尔·莱波雷博士，您是《纽约客》的特约撰稿人，哈佛大学历史与法学教授，最重要的是，您是新书《人工国家的兴衰》的作者。欢迎来到《解码器》。** 嘿，谢谢邀请。 **我真的很兴奋能和你对话。多年来我一直是你作品的忠实粉丝。我必须说，这本书是有史以来最《解码器》、最《Verge》、最尼拉伊·帕特尔舒适区的书之一。** *[笑]* 哇。我不确定该怎么理解这个评价，但我想这是好事。 **我和制作人们在阅读这本书时经历了一场惊险之旅。这本书本质上讲的是计算机和测量如何将我们扁平化，然后系统如何利用这种扁平化。就像我说的，这完全是我的舒适区。** **那么让我们从最开始说起吧。这本书叫做《人工国家的兴衰》。告诉我们什么是"人工国家"。定义它，这样我们就可以从这个基础开始。** 我所说的"人工国家"是指自由民族国家的继承者，即宪法民主政体，在该政体下，我们的言论自由、自由讨论和宪法权利对于我们作为民族国家公民的体验至关重要。 我们经常谈论民主衰败和民主倒退，关于民主正在发生什么有大量的公开讨论，但我认为我们没有像可能那样多地讨论民族国家。也就是国家本身。 所以我所说的"人工国家"是指这样一种国家：越来越多的民族国家功能已被私营跨国公司接管。最容易想到的例子就是被委婉称为公共广场的地方，人们在那里获取关于如何投票、世界在发生什么、如何做出决策以及如何行使作为公民的权利和义务的信息。 我们的公共讨论几乎完全被私有化并由公司拥有。正如许多人所证明的那样——这对你的听众或任何人来说都不是新闻——公共讨论的优先事项不是思想的自由表达和民主审议，而是关注度和愤怒情绪的商业化。 不仅如此，一个相当近期出现的事实是，我们作为公民在民主政体中交流思想的公共平台已被机器人主导。多年来，从X到Facebook到TikTok，所有这些平台都已经被颠覆。这些平台上的机器人远远多于人类。 其中许多机器人由公司拥有，有特定的行为、自己的财务利益，但它们也被国家行为体、非国家行为体、犯罪分子和恐怖分子所拥有。我们面临的风险是失去自由宪法民主，并被我所描述的"人工国家"所取代。 **其中真正让我印象深刻的一点是，至少美国对自身的定位——美国对自己的定位——是一个混乱的多党民主制。参议院喜欢称自己为世界历史上最具审议性的机构，它应该是由被统治者的同意所统治的众多人，而且我们都在争论。** **你的论点是，这是我们对自己的说法，但实际上我们已经自动化并数字化量化了其中的很多东西，我们现在可能由Twitter上的机器人管理，或者至少政客们被Twitter上的机器人淹没，他们已经把思考外包了，或者有顾问把我们所有人都变成了民意调查数据。这是否是我们正在走向终结民族国家的轨迹？这是否是核心理念？** 是的。这有很长的历史，但在人工智能时代这些发展的加速是非常显著的。我给你举两个跨越一个世纪的例子。在20世纪30年代，我们看到了所谓科学民意调查的发明。乔治·盖洛普在1935年创立了美国公共舆论研究所。 民意调查在20世纪中叶的几十年里逐渐取代了竞选活动需要做的挨家挨户的选区走访，对吧？如果我要在某个社区竞选，我必须去和人交谈。我会去看棒球赛、篮球赛，去公共图书馆。但渐渐地，政治竞选越来越不需要这么做了，因为他们可以把民意调查外包出去。 如果你只想通过数据挖掘和数据分析来运营一场竞选，你可以找出一个社区的政治观点是什么。 我们可能会说，"这让政治变得高效多了。那些竞选活动可以更有效地使用资金，把信息传达给正确的人。"但如果你想想人们过去进行过的每一次对话——"我是竞选志愿者，我要去参加PTA会议"，或者"我要去某个社区的篮球赛，和那里的家长聊聊"——所有这些对话都是维系公民社会的公民粘合剂。 用提取数据——也就是我们现在的情况——来取代在街灯下闲聊"你觉得这个人怎么样？"，这是一种比以前更加人工化的政治。 最近有很多关于2026年美国及全球选举新兴趋势的报道，很多人报告说，即使在春夏两季进行的这些初选中，他们会问ChatGPT，"我在初选中该怎么投票？"与此同时，你收到的许多竞选信息都是由人工智能精心制作的。你收到这些信息这一决定本身也是人工智能做出的。在某种意义上，在这些即将到来的选举中，甚至在已经进行的选举中，就是人工智能对人工智能。 你可以看到自己如何会滑入那个斜坡，就像穿着滑雪板下山一样。但我想写一本暴躁的书，说："让我们暂停一下。那座山的底部是什么？那是一个冰池塘，我们会掉进冰里，都在那里淹死吗？还是一个美丽的新政治世界？"我认为它看起来相当危险。 **这本书正如你描述的那样一步步追溯了这一演变；这是一个缓慢的构建过程，可能一直走到了我们今天所处的位置。** **正如你在书中多次指出的，20世纪50年代和60年代有一批科幻小说作家在观察计算机并描绘未来的图景。一些人选择了乌托邦，围绕着技术官僚乌托邦出现了整个运动，而很多人选择了反乌托邦。他们描绘了计算机辅助的反乌托邦图景。你指出了这一点。每个人都听说过"折磨中枢"梗。它就在书里。你在书中使用了它。我们的现代实业家们读过了反乌托邦科幻小说，并决定这就是他们试图构建的未来模式。** **我很好奇为什么你认为他们都理解错了，从埃隆·马斯克到彼得·蒂尔等人，以及这是否是我们真正选择不同未来的转折点。** 从20世纪30年代开始，想象一个美国总统由机器选出的未来是一个大话题。 20世纪30年代有很多这样的例子，当时人们非常担心极权主义以及机器时代导致的非人化。但在20世纪50年代也有很多这样的例子。例如，艾萨克·阿西莫夫的一个经典故事，我想是1955年的，叫《特许经营权》，背景设定在2008年11月4日前几天，也就是奥巴马赢得总统大选的那一天。 在那个想象的未来里，有一个叫做Multivac的机器，它利用民意调查数据，确定在美国谁是普通人，最具有代表性的人。民意调查员使用的抽样方法已被这台计算机在数学上完善，以选出普通人。而那是唯一投票的人。然后那个人必须躲起来，因为如果人们不喜欢当选者或者总统任期搞砸了，他的生活就毁了。 科幻小说中有很多这样的东西，但山姆·奥尔特曼上了乔·罗根的节目，开始谈论如果人工智能选择美国总统会有多好。是的，他在胡扯，但他也是认真的。"那不是很棒吗？因为如此高效，我们不必费心，这省去了我们的劳动。" 而这个普遍的前提，即"我们为什么要费力去做机器可以为我们做的事情？"，却没有意识到我们其他人会有的想法。有一些事情我们想要自己做，包括有意义的工作：写作、创作艺术、为自己做事。 我知道这些人非常聪明，但他们不是人文学者。蒂尔会说他是政治哲学家。我不太相信这一点。人文学科探究、阅读和推理的能力在那个文化中并没有得到很好的体现。 在某种程度上，它已经从硅谷文化中被淘汰了。即使你回顾90年代，以及将连续创业者视为进步新人的颂扬文化，这种特定的文化形态完全是关于对过去的否定。 以前发生了什么并不重要。你想创立一个乘车服务，你不研究出租车，也不弄清楚送货服务从何而来。你不看交通模式。你不研究过去的任何东西，你只是全新开始。你只是全新地想象它，然后摧毁以前的一切。这是对早期人类知识和智慧的如此排斥。 人文学者的姿态是谦逊的。荷马在那么久以前写下《奥德赛》，至今仍然如此有力，这难道不威严、不壮丽吗？文学和艺术的永恒性，人类创造事物能力的无限美，这根本不是其精神气质。而是"不，我们会做得更好。别人做过什么都不重要。"是"我们在创新，我们在颠覆。" 这种文化如此迷恋未来，以至于它没有那种"让我们听听以前的人可能知道什么，那仍然是智慧。"这使得对文学的解读非常差劲。我们可以就艾萨克·阿西莫夫那个故事的含义展开一场精彩的辩论。这不是确定性的，我不是艾萨克·阿西莫夫问题的权威，但我不会去问山姆·奥尔特曼一个短篇小说是什么意思。 **嗯，他直接问ChatGPT就行了。** 没错。 **关于这群角色，有一件非常有趣的事情，特别是彼得·蒂尔在你的书中出现，埃隆·马斯克在你的书中出现了100多次。他们退回到实际上就是天主教，作为他们做出任何决定时的某种道德基础。不管他们是否误读了天主教，这对他们来说都无关紧要。他们经常与教皇发生争执，这根本不是对天主教的直白解读会让你做的事情。** **存在一整套思维文化——我不会称之为哲学，因为我认为它没有那么成熟——围绕着第一性原理。"我们将进行第一性原理思考，这将引导我们走向某种颠覆性的结果。"在我看来，这常常感觉像是第一性原理的起始点是对过去忽略什么的选择。** **我在你的书中，在我们生活的整个文化中一再看到这一点，决定放下什么是重大决定。这是一个在我们一步步走向更量化、更自动化的社会过程中常常不被质疑的假设。** **但民主有些混乱之处是非常非常重要的。我们现在做出的决定实际上是为了……效率，或者潜在幸福的名义，把那些混乱放在一边。我很好奇你认为这种"放下"是偶然发生的还是有意的？** 我把这些人看作是非常工具性的。他们追求的不是知识