灭绝级资本主义

# Matthew Butterick｜灭绝级资本主义 原文链接：https://matthewbutterick.com/extinction-level-capitalism.html ## 灭绝级资本主义 ### 一位公民对AI风险的思考 AI本质上是一种**政治性技术**。如果AI如预期般运转，它将逐步侵蚀我们的自由民主制度，并可能引发不可逆转的政治与经济结构转型。在AI带来的诸多风险中，这一点值得更多关注，因为它无需额外的条件——比如恶意行为者或AI故障。AI只需放大现有趋势，尤其是资本集中化趋势，就足以造成损害。即便假设短期内AI能普遍提升物质生活水平，这种损害依然会发生。 ## 关于我 我是一名**自雇作者**（https://practicaltypography.com/）、**设计师**（https://mbtype.com/）、**程序员**（https://beautifulracket.com/）和**律师**（https://buttericklaw.com/）。2022年，我发现自己作品被用于生成式AI公司的训练数据集。为此，我**发起了首轮诉讼**（https://www.wired.com/story/matthew-butterick-ai-copyright-lawsuits-openai-meta/），以质疑这些做法的合法性。目前，我在多起AI案件中担任**原告联合律师**（https://buttericklaw.com/）。虽然下文会讨论一些法律问题，但我并非你的律师，本文内容也不构成法律建议。这些仅是我作为公民和经济参与者的个人观点，我只代表自己发言。本文排版使用了**Equity**（https://mbtype.com/fonts/equity/）、**Advocate**（https://mbtype.com/fonts/advocate/）和**Triplicate**（https://mbtype.com/fonts/triplicate/）——均是我设计的字体。你可以为你的论战和小册子获取授权。 ## 涌现效应 二十亿年前，如今被称为科罗拉多高原的岩层开始形成：先是火成岩和变质岩，随后是层层沉积岩。约五千万年前，地壳运动使这座高原抬升了数千英尺。约五百万年前，一条河流开始流淌。河水携带泥沙与碎石，冲刷出一条峡谷的雏形。河流不断加深峡谷，暴露的岩壁在风化和侵蚀作用下进一步拓宽。如今，这条水道便是科罗拉多河。而这一地质构造，就是**大峡谷**。 大峡谷的形成无需任何人类干预，无需任何技术，无需河流、大地与重力之间的协调。从这个意义上说，大峡谷是一种***涌现效应***：由简单输入产生的复杂、不可预测的输出。 但我们绝不会好奇河流是否有意识，也不会关心它是否在意被带出峡谷的泥土。水只是在做水该做的事——向下流。泥土恰好挡了路而已。 ## 本质政治性技术 **Langdon Winner**是一位政治理论家。他撰写了一篇卓越且影响深远的论文《**物品有政治性吗？**》（https://faculty.cc.gatech.edu/~beki/cs4001/Winner.pdf）（1980年）。Winner试图驳斥传统的“技术是……可以被善用或滥用、用于善或恶或介于两者之间的中性工具”这一框架。相反，Winner提出了技术影响其政治环境的两种方式： 1. **技术被设计成具有特定的政治效应。** 例如，**中国的防火长城**（https://cs.stanford.edu/people/eroberts/cs201/projects/2010-11/FreedomOfInformationChina/category/great-firewall-of-china/index.html），这是一系列限制中国公民访问国外信息来源的技术措施。与之相对，**Tor项目**（https://www.torproject.org/）则旨在最大化用户匿名性并挫败政府入侵。 2. **技术本质上是政治性的。** 这是Winner分析的关键支点。他描述了本质政治性技术的两种形式。第一种是技术“实际上***要求***……一套特定的社会条件作为其运行环境”。例如核武器：拥有如此危险技术的唯一负责任方式，是将其置于“一个中央集权、严格等级制的指挥链……原子弹必须是威权主义的；别无他法”。第二种形式是技术虽然并非严格必要，但与某种政治安排“高度兼容”，因此倾向于促成该安排。 作为例子，Winner考察了**机械番茄收割机**（https://www.plantsciences.ucdavis.edu/news/how-mechanical-tomato-harvester-prompted-food-movement）。该机器于20世纪50年代在**加州大学戴维斯分校**（https://www.ucdavis.edu/research/discoveries/agricultural-discoveries/tomato-harvester）开发，生产效率极高，但价格昂贵。只有资金充足的番茄种植者才能买得起，而那些买不起的则无法竞争。据Winner所述，加州番茄种植者数量从20世纪60年代初的约4000人降至1973年的约600人，导致约32,000个工作岗位流失，并对那些社区产生了复合性的负面影响。Winner总结道： > 我们在这里看到的是……一个持续的社会进程，科学知识、技术发明和企业利润在根深蒂固的模式中相互强化，这些模式带有政治和经济权力的明确印记……像番茄收割机这样的创新反对者，被塑造成“反技术”或“反进步”的形象。因为收割机不仅仅是一种奖励某些人而惩罚其他人的社会秩序的象征；从真正意义上说，它是那种秩序的**体现**。 不仅是象征——而是**体现**。一项表面中性的技术发明——比如番茄收割机——可以引发政治效应。这些效应并非源于技术缺陷。恰恰相反——它们源于技术的**有效性**。 政治效应是如何决定的？Winner指出了两个关键早期决策。第一个是二元问题：是否要追求这项技术。第二个是关于技术“设计或安排”的选择。Winner警告说：“仅仅从削减成本、效率或设备现代化的角度来看待问题，会错过一个决定性因素”。也就是说，政治效应也许可以被抵制，但首先必须被**承认**。 当然，做出明智选择的最佳时机是在技术被广泛引入之前，因为资本和社会投资往往会**固化**它： > 由于选择往往会强烈地固定在物质设备、经济投资和社会习惯中，一旦最初的承诺做出，最初的灵活性就实际上消失了。从这个意义上说，技术创新类似于立法行为或政治奠基，它们建立了一个将持续数代人的公共秩序框架。……社会中分裂或团结人们的问题，不仅是在严格意义上的政治制度和实践中解决的，而且更不明显地，是在钢铁和混凝土、电线和晶体管、螺母和螺栓的具体安排中解决的。 技术选择直接关系到整个“公共秩序”。当我们不认真对待这些选择——或者被那些坚持技术只是中性工具的人说服而忽视它们——我们就面临政治后果。 Winner警告自满。一旦技术到来并变得根深蒂固，对话就会被重新框定为技术必然主义 vs. 过时论，异议受到压制：“证明社会生活适应技术要求合理性的推理，像春天的花朵一样自发地涌现……过了某个点，那些无法接受硬性要求和命令的人将被视为梦想家和傻瓜。” ## 自由民主 > 民主的力量平衡，建立在普通人通过创造经济价值而拥有杠杆作用的基础上。如果这一点不复存在，我认为情况会变得相当可怕。——某AI首席执行官（https://www.axios.com/2025/05/28/ai-jobs-white-collar-unemployment-anthropic#:~:text=The%20balance%20of%20power%20of%20democracy%20is%20premised%20on%20the%20average%20person%20having%20leverage%20through%20creating%20economic%20value%2E%20If%20that%27s%20not%20present%2C%20I%20think%20things%20become%20kind%20of%20scary%2E） **自由民主**是政治科学家用来描述自美国和法国大革命以来在**资本主义经济体中盛行**（https://ourworldindata.org/grapher/liberal-democracy-index）的政府类型的术语。自由民主的思想基础源于启蒙运动，尤其是通过**约翰·洛克**（https://plato.stanford.edu/entries/locke-political/）的著作。自由民主强调有限政府、个人权利和权力分立——简而言之，是附带例外和保护措施的多数人统治。（*自由民主*这个术语并非指美国特定政治意义上的自由派或民主党人。但不同意识形态的政党是自由民主的传统特征。）如今，大多数自由民主国家位于欧洲、美洲和环太平洋地区。 自由民主并非一套固定不变的特性，而是一系列分级价值观的集合。所有自由民主国家都侧重于某些方面而非其他。总体而言，其中一些国家朝着更强的自由主义演进；另一些则**逆向演进**（https://freedomhouse.org/report/freedom-world/2026/growing-shadow-autocracy）。这些退化的情况有时被称为**非自由民主**：自由民主的外在形式可能仍然存在——例如多党选举、权力分立——但实际体验是一党统治和个人权利衰退。 这并不是说自由民主对所有公民总是产生出色结果。它没有。在任何时刻，某些公民都会感到不满——例如，因为他们属于一个权利保护不足或经济边缘化的群体。自由民主提供的是过程，而非结果：草根的民主参与可以凝聚成政策变革。但在相互竞争的政治利益领域内，必然伴随赢家和输家。在一个稳定、包容的框架内处理这些分歧，优于一个在这些压力下崩溃的僵化框架——例如通过政治革命，后者往往混乱且不可预测。 **资本主义**传统上被视为自由民主的必要但非充分条件。为什么？一个受监管的市场经济通过**财产所有权和交易**（https://fee.org/articles/democracy-and-capitalism-are-mutually-reinforcing/）鼓励公民参与。政府的主要职能之一是定义国家的经济条件。经济参与相互强化民主参与。财产所有者会投票支持保护他们利益的人。19世纪工业资本主义的兴起，以及20世纪随之而来的财富再分配机制，使更多公民获得经济赋权，并最终获得更广泛的政治赋权。反之亦然：以国家或寡头控制**某一狭窄类别资产**（https://matthewbutterick.com/extinction-level-capitalism.html#the-resource-curse）为基础的经济体，往往不会朝着自由民主发展。 在实践中，资本主义自由民主中的某些人倾向于变得越来越富有。如果没有反制措施，富人就会获得对政治机器的更多控制，从而破坏自由民主规范。这种资本与政治之间的紧张关系是一个长期探讨的话题。早期的关键作品当然是卡尔·马克思的《资本论》（关于这一点下文会再说（https://matthewbutterick.com/extinction-level-capitalism.html#know-your-enemy））。在当代，Mancur Olson的著作《**国家的兴衰**》（https://dn720004.ca.archive.org/0/items/olson-mancur-rise-and-decline-of-nations-economic-growth-stagflation/Olson%2C_Mancur_Rise_and_Decline_of_Nations_Economic_Growth%2C_Stagflation.pdf）阐述了有共同利益（可能包括资本集中）的小团体如何有效地破坏稳定社会。最近，经济学家Robert Reich（“资本主义如何扼杀民主”（https://cooperative-individualism.org/reich-robert_how-capitalism-is-killing-democracy-2007-sep-oct.pdf））、James Galbraith（《**捕食者国家**》（https://www.simonandschuster.com/books/The-Predator-State/James-K-Galbraith/9781416576211））和Yanis Varoufakis（《**技术封建主义：是什么扼杀了资本主义**》（https://www.penguinrandomhouse.com/books/751443/technofeudalism-by-yanis-varoufakis/））等人研究了日益加剧的财富不平等所导致的政治后果。其综合观点可能是：随着更多财富集中在更少公民手中，自由民主减弱，因为那些正在失去经济重要性的公民也将失去政治重要性。一个将许多公民推向经济无关紧要状态的国家，有变得**政治非自由**的风险。 ## 天网谬误 AI话语常常引用科幻叙事。**我曾称此**（https://matthewbutterick.com/chron/domination.html#:~:text=Skynet%20fallacy）为***天网谬误***，源自被引用最多的《终结者》中的反派（https://terminator.fandom.com/wiki/Skynet）。但任何科幻作品都适用。例如，**某AI首席执行官警告**（https://www.unilad.com/technology/elon-musk-ai-technology-terminator-humanity-930217-20230525）AI会“走向终结者”；Stephen Hawking和其他**科学家警告**（https://www.independent.co.uk/news/science/stephen-hawking-transcendence-looks-at-the-implications-of-artificial-intelligence-but-are-we-taking-ai-seriously-enough-9313474.html）AI会“开发出我们甚至无法理解的武器”；**另一位AI首席执行官说**（https://www.bloomberg.com/news/articles/2023-12-12/sam-altman-defends-ai-thrust-days-after-retaking-openai-s-helm）我们“对AI风险不需要太多想象力，因为我们从小在媒体中看到这些”；**第三位AI首席执行官在一篇关于AI风险的文章中**（https://darioamodei.com/essay/the-adolescence-of-technology）引用了科幻电影《超时空接触》和《2001太空漫游》；**一位美国国会议员**（https://www.politico.com/news/2024/05/12/ai-lobbyists-gain-upper-hand-washington-00157437）将AI风险概括为“邪恶机器人崛起接管世界”；**一位知名记者**（https://www.slowboring.com/p/the-case-for-terminator-analogies）主张**更多**使用终结者类比；**一位著名的AI风险评论员说**（https://intelligence.org/2018/02/28/sam-harris-and-eliezer-yudkowsky/#:~:text=annoyed%20with%20the%20journalists%20who%20insist%20on%20putting%20a%20picture%20of%20the%20Terminator）他对终结者类比感到“恼火”，却**曾建议**（https://www.lesswrong.com/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities#:~:text=nanomachinery%20builds%20diamondoid%20bacteria）AI将使用成群的毒性纳米机器人消灭人类。 艺术上，科幻电影外化了技术对抗带来的敬畏与不安。很容易理解为什么这些比喻已成为AI风险话语的一部分。然而，随着AI在经济中扎根，科幻框架隐藏的比揭示的更多。科幻情节是为电影冲击力优化的。因此，作为一种隐喻，它……