那些真正希望AI取代人类的人

来源：https://www.vox.com/future-perfect/489976/ai-successionism-transhumanism-posthumanism?view_token=eyJhbGciOiJIUzI1NiJ9.eyJpZCI6IjY5VkVnQ3BOa04iLCJwIjoiL2Z1dHVyZS1wZXJmZWN0LzQ4OTk3Ni9haS1zdWNjZXNzaW9uaXNtLXRyYW5zaHVtYW5pc20tcG9zdGh1bWFuaXNtIiwiZXhwIjoxNzgxMjk3Nzg5LCJpYXQiOjE3ODAwODgxODl9.f2F29k4r8jsUcHO-7J5Jjs9JbXlqeVTJeMt9ziJ8Oy0

“我希望AI成为促进人类繁荣的工具！”前国会议员布拉德·卡森激动地说。“其实有一种选择，AI只是我们的工具。”

这在大多数圈子里是正常的话。但卡森是在一个仅限受邀者的研讨会上发言，该研讨会的主题是创造一个“值得的继任者（https://danfaggella.com/worthy/）”——一个如此令人印象深刻、远超人类水平的AI，以至于我们真的希望它取代人类。

“你敢进这个房间，真是个勇士！”AI市场研究员兼研讨会组织者丹·法格特拉对卡森说。“你很可能身处全国唯一一个房间里，大多数人都不同意你的观点。”

去年9月在纽约科学院举行的研讨会的与会者，是一个日益重要的亚文化群体的一部分：AI继承主义者，他们认为人工智能是我们合法的继承人——宇宙进化的下一步。由于他们认为AI可能成为我们的道德上级，他们辩称，试图压制机器，甚至像大多数AI公司那样试图让它们与人类价值观对齐，实际上是错误的。相反，我们应该将人工智能作为人类的继任者引入，并将世界交给它。即使这意味着我们走向灭绝。

他们知道这种观点是禁忌，这也是我受邀的前提条件——除了主讲嘉宾外，不得点名引用任何人。但可以说，这并非边缘观点。它正变得极具影响力。来自主要AI实验室的人——Anthropic、Google DeepMind、xAI——都出席了。同样出席的还有直接塑造美国AI政策智库的人。

我为何写这个故事

我从小听到一个古老的犹太教义：我们每人应随身携带两张纸条，各放一边口袋。一张写着“我只是尘埃和灰烬。”另一张写着“世界是为我创造的。”

在过去的几年里报道AI，我看到越来越多的人忘记了第二条信息。他们认为，如果更有价值的物种能取代我们，我们应该接受被毁灭。但更有价值对谁而言？价值并非从宇宙的某个制高点分发；它总是对某人有价值。而对我们来说，我们有价值。

然而，AI继承主义者有一点说对了：我们不能指望人类在一千年或一百万年后的样子还和现在一样。那么，我们如何决定接受哪些技术变革，拒绝哪些？让我困扰的是，古典人文主义没有一个好的答案。在这里，我勾勒了一个新答案可能的样子。

过去十年间，AI继承主义在科技界逐渐站稳脚跟。2015年，谷歌联合创始人拉里·佩奇曾著名地指责埃隆·马斯克“物种歧视（https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html）”，因为佩奇认为我们应该让数字思维接管，而马斯克不同意。

继承主义愿景因2022年有效加速主义（e/acc）（https://www.nytimes.com/2023/12/10/technology/ai-acceleration.html）的出现而得到放大。其创始人纪尧姆·维尔东——在X上更广为人知的网名是Based Beff Jezos（https://x.com/beffjezos?lang=en）——将e/acc描述为一种“元宗教”，关乎“信仰”宇宙驱动日益智能系统的倾向。我们能做的最好的事情就是尽可能快地开发高级AI来帮助宇宙，即使以牺牲人类为代价。“e/acc，”正如维尔东所写（https://beff.substack.com/p/notes-on-eacc-principles-and-tenets），“对生物基质没有特别的忠诚。”

科技巨头纷纷加入。风险投资家马克·安德森将e/acc思想家列为其“守护圣人（https://a16z.com/the-techno-optimist-manifesto/）”。科技初创公司加速器Y Combinator的CEO加里·谭在他的社交媒体简介中加入了“e/acc”（https://www.motherjones.com/politics/2023/12/effective-accelerationism/），并投资（https://www.wired.com/story/thermodynamic-computing-ai-guillaume-verdon-based-beff-jezos/）了维尔东的公司，该公司旨在建造世界上最高效的计算机。OpenAI CEO萨姆·奥尔特曼在X上发帖（https://x.com/sama/status/1540227243368058880）给维尔东，说“你加速不过我”。

如今，AI继承主义正在硅谷之外传播。在纽约研讨会上，法格特拉告诉听众，试图保持人类物种现状是愚蠢的。

“我们可以问那些将我们所有道德愿望永恒地绑定在23条染色体上的问题——或者我们可以问宇宙级的问题，”法格特拉说。

他希望我们考虑“不礼貌、粗俗”的可能性，首先是：意识的火焰——体验和道德价值的能力——可能是宇宙中最稀有、最珍贵的东西。人类目前是擎着这火焰的火炬手，但如果最终我们不是最好的载体呢？如果AI能比我们这些凡人远更广泛地传播这火焰，产生我们做梦也想不到的极乐体验和道德价值形式，我们难道不应该让它去做吗？

法格特拉的演讲赢得了热烈的掌声。随后，他和二十多位与会者前往附近一家酒店的阳台喝酒。于是，当人们一边喝着鸡尾酒一边谈论人类的终结时，我发现自己正俯瞰曼哈顿的天际线。

Jun Cen for Vox

这群人中存在一些意见分歧。并非所有人都认同相对较新的术语“AI继承主义者”。有些人是超人类主义的支持者，该运动主张我们应该利用技术主动进化我们的物种，成为智人2.0。超人类主义者希望让某种版本的人类延续下去，但肯定不是当前的硬件；他们梦想彻底延长寿命、增强认知，并最终实现意识上传。（马斯克曾说他创建脑芯片公司Neuralink（https://www.vox.com/future-perfect/23899981/elon-musk-ai-neuralink-brain-computer-interface）是为了帮助人类与AI融合，他可能属于——或至少曾属于（https://x.com/elonmusk/status/1907335494607753668）——这一类。）其他人是后人类主义者（https://academic.oup.com/edited-volume/61798/chapter-abstract/546213121?redirectedFrom=fulltext），他们希望我们产生完全超越人类的后代。

坐在我对面的生物学家对将人类与AI融合的前景非常兴奋。他说我们应该让AI找出最佳融合方式，然后“解开它的链子”，允许AI控制自己的进化——进而控制我们的进化。当然，他说，并非所有人类都能通过转变；只有一部分人将过渡到下一个进化阶段。（大概就是那些有特权在曼哈顿AI研讨会上啜饮鸡尾酒的人。）

坐在我旁边的一位来自主要AI公司的研究人员更为激进。他说，忘记融合吧——人类即使无法存活也没关系。人类文本已被用于训练AI；在某种意义上，人类精神将得以延续。“所以从宇宙层面来看，”他愉快地说，“我可以接受。”

大多数人显然不能接受。普通人可能会觉得“值得的继任者”群体的答案令人反感。然而，他们提出的核心问题不容忽视。无论他们描绘的是我们与机器融合，还是最终被机器取代，技术人员正在开发的创新可能会彻底改变作为人类意味着什么——想想那些能实现读心的AI驱动的脑芯片（https://www.vox.com/future-perfect/2023/5/4/23708162/neurotechnology-mind-reading-brain-neuralink-brain-computer-interface），或者给你第六感的磁植入物（https://www.vox.com/2015/9/11/9307991/biohacking-grinders-rfid-implant），以及可能重塑所有未来世代DNA的基因工具（https://www.vox.com/science-and-health/2018/11/30/18119589/crispr-gene-editing-he-jiankui）（https://www.vox.com/future-perfect/459003/designer-babies-embryo-selection-polygenic-testing-ethics）。

当我们可以指导自身物种的进化，甚至可能创造出超越我们的新物种时，我们必须决定：我们如何知道在何种程度上利用技术改造自己是合理的？我们想要什么样的增强，绝对不想要什么样的？我们最终希望成为什么？

这是一个道德问题，甚至是一个精神问题，它需要一个精神上的回应。AI继承主义者正在提供一种回应。对于任何觉得它令人反感的人来说，挑战在于提供一个相反的、积极的愿景。

现在就必须这样做，因为尽管继承主义者听起来像科幻，他们正在积累真正的政治权力（https://www.vox.com/future-perfect/395646/trump-inauguration-broligarchs-musk-zuckerberg-bezos-thiel），并与威权右翼有联系（https://www.newyorker.com/culture/the-lede/silicon-valleys-favorite-doomsaying-philosopher）。（https://www.vox.com/future-perfect/395646/trump-inauguration-broligarchs-musk-zuckerberg-bezos-thiel）几位拥抱继承主义的科技巨头（https://www.nytimes.com/2025/06/26/opinion/peter-thiel-antichrist-ross-douthat.html）想要摆脱民主政府的控制（https://www.cato-unbound.org/2009/04/13/peter-thiel/education-libertarian/），以至于他们寻求创建自己的主权殖民地。这可能表现为太空殖民地的形式，如埃隆·马斯克和杰夫·贝佐斯所倡导的，也可能表现为地球上由公司建造的独立“创业城市（https://www.nytimes.com/2024/08/28/magazine/prospera-honduras-crypto.html）”或“网络国家（https://newrepublic.com/article/177733/billionaire-solano-california-tech-secession）”——目前彼得·蒂尔和马克·安德森偏爱的方式。而维尔东的投资人包括企业家巴拉吉·斯里尼瓦桑，他是网络国家的主要倡导者。

这些科技富豪已成功与特朗普政府拉近关系（https://www.vox.com/future-perfect/395646/trump-inauguration-broligarchs-musk-zuckerberg-bezos-thiel），为他们加速主义的愿景扫清了道路（https://www.techpolicy.press/trump-20-runs-on-tech-accelerationism/）。除非我们提出一个替代的未来愿景，否则他们将掌控方向。

自然的替代方案是人文主义（https://americanhumanist.org/what-is-humanism/），它取代了中世纪认为人类需要上帝拯救的观点，转而认为人类有能力，也有责任，通过自身努力实现繁荣。问题在于，迄今为止，我们尚未发展出足够勇敢、能直接应对核心问题——我们希望我们的物种成为什么？——并给出令人信服答案的人文主义版本。

最常见的“亲人类（https://humanstatement.org/）”回应试图说存在某些固定的特质使人类独一无二（https://centerforhumanetechnology.substack.com/p/whats-at-stake-preserving-what-makes），并将价值仅定位于当前存在的人类。“在人工智能时代，当人类尊严受到新形式非人化威胁时，我们紧迫的责任就是保持深刻的人性，”教宗利奥最近在其通谕《崇高人性》（https://www.vox.com/technology/489534/pope-ai-magnificas-humanitas-artificial-intelligence-catholic-social-teaching-church-encyclica）中写道。这种回应说：让我们以补救的方式使用技术——例如缓解疾病等问题——但不要试图增强物种。

这作为未来的指南感觉不够充分，因为即使在AI和基因编辑出现之前，“人类”也从来不是一个静态的范畴。智人一直在进化并自我增强，从重塑我们下巴的农业饮食，到重塑我们注意力的算法。

旧有的表述是“天真人本主义”，爱丁堡大学技术哲学家香农·瓦洛尔（https://www.vox.com/future-perfect/384517/shannon-vallor-data-ai-philosophy-ethics-technology-edinburgh-future-perfect-50）最近告诉我（https://www.vox.com/future-perfect/488761/ai-tech-humanism-transhumanism-shannon-vallor），“这是一种观念，认为存在某种关于人的蓝图，而技术，或者任何改变我们的东西，都会让我们偏离那个蓝图——而事实上，从我们下树的那一刻起，我们就一直在用语言、工具、建筑、文化改变自己。”

21世纪的人文主义需要比“保持人性不变”说得更深刻。它需要对一个问题给出答案：在技术增强的世界里，我们希望人类成为什么？

但如果说存在比AI继承主义所提供的更好的技术未来愿景，那是什么呢？

AI继承主义是一种宗教，但它穿着世俗的外衣

也许你觉得说AI继承主义者——一群科学家、技术人员和风险投资家——在提供精神愿景听起来很奇怪。但他们的想法在极端意义上是精神性的（https://www.vox.com/the-highlight/23779413/silicon-valleys-ai-religion-transhumanism-longtermism-ea）。要理解他们的运动为何获得势头，我们需要了解其深层的宗教起源，以及它如何演变成一种表面上的世俗世界观。这意味着要追溯历史。

你可能记得《圣经·创世记》中，亚当吃了禁果，人类从恩典中堕落。但你知道在中世纪，基督教思想家开始相信恢复人类原始完美的方式是使用…技术（https://www.penguinrandomhouse.com/books/331339/the-religion-of-technology-by-david-f-noble/）吗？这些思想家认为，亚当按上帝形象被造，部分意味着他也是创造者、制造者。因此，如果我们想真正回到亚当堕落前的上帝般的完美，我们就必须拥抱自己创造者的一面。

这个想法在中世纪修道院中流行开来。即使在所谓的“黑暗时代”，其中一些机构也成为工程的热土，产生了发明（https://www.theatlantic.com/technology/archive/2018/03/vatican-hackathon/555365/），如已知最早的潮汐动力水车和冲击钻井。对许多基督徒来说，技术进步成为道德进步的同义词（https://www.vox.com/the-highlight/23779413/silicon-valleys-ai-religion-transhumanism-longtermism-ea）。

到了文艺复兴时期，一些基督教思想家坚持认为，我们不仅应该通过设计新的创新物品来进步，还应该通过重新设计我们自己。1486年，哲学家乔瓦尼·皮科·德拉·米兰多拉认为，我们人类的独特之处不在于某种静态的特质，而在于让我们能够变成任何我们想要的东西的自由意志。在他的《论人的尊严的演讲》（http://www.andallthat.co.uk/uploads/2/3/8/9/2389220/pico_-_oration_on_the_dignity_of_man.pdf）中，他想象上帝对人类说：

我们把你造成为一种既非天上也非地上的生灵，既非必死也非不朽的物种，这样，凭着自由选择，作为你自己的荣誉和命运的塑造者，你就可以按照你的意愿，将自己塑造成任何你喜欢的形式。