AI 天启已至

# AI末日已经到来 来源：https://www.compactmag.com/article/the-ai-apocalypse-is-already-here/ 美国人不喜欢人工智能。最近的民意调查显示，他们的态度大多介于矛盾心理与恐惧之间。一些观察人士提出，反对AI是因为行业领袖公关不力。他们认为，如果科技巨头们没那么相信夸耀自己的末日力量是筹集资本的最佳方式，美国公众就会买账。例如，中国舆论的态度就友好得多。 但这些差异也可以有另一种解读。对自由的爱好并非独立于文化和历史。中国已经有一段时间不知道自由为何物，而美国公民则拥有悠久的自由经验。美国人如此不信任AI，正证明他们保留了自由精神。对AI的各种抱怨，体现了一种大多难以言传的直觉：AI的广泛采用无法与自由社会相容。美国人正在逐渐意识到，即使AI不会终结地球上的生命，它也会摧毁我们的生活方式。 要论证反对AI的理由，只需引用行业领袖的话。他们曾预言，一旦AI智能体（他们认为很快就会到来）在所有认知能力上超越我们，就会出现一个“永久下层阶级”；他们还长期警告，方向错误的AI甚至可能导致人类灭绝。这与美国此前从工业巨头那里听到的任何言论都相去甚远。安德鲁·卡内基从未承诺要带来末日。尽管行业领袖最近软化了措辞，否认了要让人类在经济上彻底被淘汰的目标，但各大AI公司仍官方承诺开发通用人工智能，其定义是一种“在大多数具有经济价值的工作上超越人类”的AI系统。AI已经在许多研究领域超越人类能力，AI生成的文本和音乐正在淹没数字景观。 我们不可能知道未来究竟会发生什么。但鉴于这项技术以非凡速度发展，低估AI的颠覆能力将是愚蠢的。当前充斥着各种AI监管方案，有些相当激进。从右翼民粹主义大师史蒂夫·班农到左翼英雄参议员伯尼·桑德斯（佛蒙特州独立人士）都支持的AI公司部分国有化计划；参议员玛莎·布莱克本（田纳西州共和党人）提出的保护“儿童、创作者、保守派和社区”的监管框架；众议员亚历山大·奥卡西奥-科尔特斯（纽约州民主党人）提出的暂停数据中心建设的建议；特朗普政府最近干预、叫停被认为危害国家安全的新模型发布；以及日益高涨的呼吁通过国际条约禁止超级智能的呼声——这些都是人们开始意识到AI威胁的积极迹象。 然而，即便是这些批评者，似乎也没有充分认识到一个事实：AI预示的不仅仅是不利的经济或安全影响，而是人类生活不可逆转的改变。即便现在，AI已经产生了有害影响，而重新分配收入或转移技术控制的立法几乎无法解决这些影响。尤其是，最直言不讳的怀疑者也没有充分认识到，拟人化的AI——即模仿人类性格特征、情绪状态和思维模式的模型，正如当前市面上的生成式AI模型所做的那样——正在扰乱人类心理和社会结构。 > “即便就我们已知的生成式AI而言，也有充分的理由加以反对。” 换言之，当前的AI抵抗运动几乎完全是在谈论防范尚未到来的风险。但即便就我们已知的生成式AI而言，也有充分的理由加以反对。我们不仅要反对AI可能变成什么、可能对这个国家造成什么影响，还必须反对它现在是什么、已经在对我们的社会做什么。 鉴于我们已看到的AI表现，我们可以确信，其广泛采用将创造一个更不自由的社会、一个更缺少美德的民族，以及一种退化的文化。一个认识到这些事实的运动，不会仅仅呼吁谨慎和监管，而会要求限制拟人化AI在公民社会中的扩散——这种AI在创造新文本、音频和图像方面与人类作家和艺术家竞争——并结束对超级智能的追求。 到目前为止，AI的反对者绝大多数都专注于预测其经济影响。但AI不仅仅又是一次工业革命。它——已经——是一场道德和宇宙论意义上的大灾难。因为生成式AI所做的事情，不亚于改变了人类在宇宙中的位置。比印刷机或互联网更甚，或许比农业兴起以来的任何事物都更甚，AI通过削弱我们作为语言独特承载者的地位，改变了人类与世界的关系。虽然伯尼·桑德斯和罗恩·德桑蒂斯都指出，失去对自己命运的控制是AI的重大风险之一，但还没有哪位领导人认识到，我们世界上唯一一种通用智能不再是人类智能，这有多么令人震惊；也没有人正视这样一个事实：与具有对话语言能力和超人类认知能力的机器进行广泛互动，是人类这个物种进行过的最大规模社会心理学实验。AI怀疑论者基本上没有关注大语言模型带来的人类独特性的丧失，也没有推演过所有那些即使（这是一个不太可能的前提）“安全”能够得到保障、道德和文化损害仍将因其兴起而随之而来的方式。 AI应该让所有意识形态阵营的人都感到担忧，但值得注意的是，保守派在这个问题上多么沉默。因为不仅是超级智能的前景，还有当前拟人化AI的广泛部署，都威胁着保守派自称最珍视的东西：资本主义、职业道德、个人责任、个人自由和常识性道德标准。 --- 尽管美国人对AI的兴起并不友善，但尚未形成有组织的反对运动。原因之一或许是“新事物崇拜”——这是最接近美国公民宗教的东西，而且至今仍然存在。奇怪的是，这种抬高新事物的倾向，又得到一种同样强大的倾向的强化，即否认日光之下并无新事。尤其是倾向于自由意志主义的思想家，他们为拥抱拟人化AI辩护，将批评者嘲讽为卢德分子，并指责他们散发出与那些关停核电站、若活在工业革命时期会抵制蒸汽机的人“同样的能量”。 但事实上，日光之下确有新事，生成式AI就是其中之一。AI的批评者并不是在反对最新的汽车变速箱或更好的太阳能电池板。一种在某个特定活动领域提高物质过程效率的技术（正如以往的创新那样），与一种预期将在创造力和认知能力上超越所有人类的技术，二者之间存在本质区别。 那种将AI比作以往工业进步、坚称它是一种“正常技术”的辩护，需要对其行业领袖采取一种居高临下的态度。这些领袖并不认为自己只是带来一场新的工业革命，而是认为自己在开发一种将引发更深远社会变革、甚至改变（或取代）人性本身的技术。这种辩护的隐含意思是，我们之所以应该对AI采取不干涉态度，是因为该行业自身的领军人物太过执迷，以至于误解了自己正在做的事情。 基于经济创新历史类比的主张，实际上是一种道德