AI很糟糕。仅仅讨厌它还不够

# AI 很烂。光恨它还不够。 来源：https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/ 我并不想写这篇文章。我和你一样，已经厌烦了那些关于 AI 的评论文章和讨论。然而，几个月来，我看到我的社群、我的朋友，因为 AI 问题而互相撕扯，痛苦分裂：在基本事实和正确应对措施上都存在严重分歧。我觉得我必须提笔写点什么 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-write)，用我自己的声音，以自己的名义，公开地写。 我和其他像我一样的人 (https://github.com/rust-lang/rust-forge/pull/1040)，曾被指责“忽视”了 AI 相关的道德问题，将其搁置一旁，如同那些希望将“政治”排除在开源、科学、游戏之外的人一样。遗憾的是，事实并非如此。我无法不去想这些问题。 亲爱的 AI 反对者 (https://www.thehandbasket.co/p/hating-ai-is-good-actually)，我们是在为同一事业而战。我知道你可能不相信我。我知道我很可能无法说服你。但是，请，请听我说 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-charity)。我一个人做不到。 简而言之：AI 可能会对世界造成可怕的伤害。然而，我们无法抹去它的存在，无法通过抵制让它消失，甚至几乎无法以任何有意义的方式对其进行“监管”。这样做的冲动是可以理解的，值得称赞的，并且在某种程度上，我也认同。问题在于，尽管这些事情可能有所帮助，但它们无法“奏效”。我们必须面对现实，而非我们期望的样子，并志存高远，即使这感觉不可能。 我知道这听起来像你过去从许多鼓吹者那里听到的那些嘲讽话语 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-polarization)："AI 是不可避免的；要么上车，要么被抛在后面"。你的怀疑是有道理的，我也曾有过。但我亲眼所见、亲耳所闻的事情告诉我，某些非常真实的东西即将来临 (https://shumer.dev/something-big-is-happening)。我必须“警告”你，即使我担心你不会相信我。 这些消息不应是凯歌高奏；相反，我想传达给你一种苦涩的希望。地平线上有一个黑暗的轮廓，我们不能忽视。我们必须在这个怪兽横行的时代努力塑造未来，即使我们无法抹去 AI。我们必须适应，即使我们不需要“接受”。 当我过去提出这些论点时，那些不了解我的人以为我是鼓吹者、托儿、法西斯分子、傻瓜。没错：我是一个技术专家。程序员、科学家：对统计学和机器学习、实验设计和自动化着迷。一个超人类主义者 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-transhumanism)，在动物和机器中看到了人格的微光，希望每个人都能自由塑造自己的身体，希望以看似异端的方式扩大我们的道德圈。 同时，我也是一名生态学家，一名环保主义者。我将我的一生、财富、健康、未来都献给了拯救地球。为了对抗气候变化，推广骑行，为了理解我们周围美丽的世界。当我无法再走那条路时，当我病得以为自己再也无法行走在森林中，惊叹于每一根倒木和蘑菇时，我再次尝试。我找到了一条新路——机器与代码的道路；绝望生存与残酷妥协的道路；通过谨慎依赖而艰难争取独立 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-em-dash) 的道路。当我能做到时，我再次付出：牺牲数年的时间和大笔的收入，以开源的形式回馈给公共资源。 我只有一生可活。我一直知道，它将用于奉献 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-sacrifice)。 不要告诉我不为更光明的未来而战。世界没那么简单。 1. 如果这篇文章没有太多冗余的词汇，那就不是我的风格了。有太多分叉的线索，太多需要填补的漏洞，而这一次，我将犯下说服性写作的大忌：进行防御性论证。↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-write) 2. 请赐予我们你们的善意，如同我们赦免冒犯我们的人一样。↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-charity) 3. 这就是负面两极分化。效果惊人地强大。注意你说的话，以及你消费的内容。你永远不知道它会如何改变你。↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-polarization) 4. 《Eclipse Phase (https://eclipsephase.com/)》塑造了我对超人类主义的看法。技术作为变革性的解放；而非创造优等种族的科技法西斯项目。它和“自由派”一样，是一个充满争议的复杂术语，但我拒绝让别人把这些身份——以及 em 破折号——从我这里夺走。↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-transhumanism) 5. 本文中的 em 破折号，以及你在这里读到的每一个字，都经过认证是由人类生产——以老式的方式从 Google 复制粘贴，并用我小小的肉手指在机械键盘上打出来的。↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-em-dash) 6. "我牺牲了一切。你又付出了什么？" 伊利丹说得有点道理... ↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-sacrifice) AI，就其现状而言，是一场正在 unfolding 的灾难。世界上最糟糕的人正乘着它走向权力。它以前所未有的规模赋能了恐怖而准确的监控 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-cyberpunk)。AI 公司轻率出售的工具正在摧毁整个行业，威胁着要取代数十亿工人，且对其福祉或未来全然不顾。建立在被剥削的劳动者和创作者（永远不会被署名）的背上，这些机器成为了宣传和审查的完美双引擎。当我们使用它们时，我们的技能会退化，培养出一种永远可货币化的依赖。而这一切都消耗着大量的电力，排放着我们无法负担的碳。 这些伤害是真实的 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-harms)。它们非常巨大。如果你正在读这篇文章，你几乎肯定已经同意我这一点 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-disagreement)。如果你想争论这些，就去读点别的吧。 如果 AI 起作用，它将可怕地破坏世界。如果它不起作用，如果这一切都是骗局、泡沫——那我们将会经历一场巨大的崩盘。两者，委婉地说，似乎都很糟糕。 鉴于此，许多人选择拒绝成为共谋——选择成为 (https://www.theguardian.com/commentisfree/2025/aug/06/meet-the-ai-vegans)AI 素食者 (https://sboots.ca/2026/03/11/generative-ai-vegetarianism/)，这是有道理的。但这足够吗？ 1. 我想要赛博朋克中的个人 AI 伴侣和生物黑客部分，而不是那个令人窒息的监控国家和令人瞠目的财富不平等。↩ 2. 某些所谓伤害基本上不真实，或者非常推测性。热岛效应和次声伤害实际上是伪科学。水、噪音和土地使用方面的担忧相对后果轻微且可解决，相较于其他行业。AI 安全的 X-风险担忧和智能机器生命奴役介于令人担忧和妄想之间。但这些吹毛求疵并不重要：非常真实的伤害足以让我说，这项技术将给数十亿人带来严重问题。↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-harms) 3. 对你的对手保持慷慨很重要。几乎没有人认为这些伤害是假的，即使他们嘴上这么说。他们不傻。支持 AI 的人，即使是强烈鼓吹者，也只是认为这些伤害是值得的或不可避免的。↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-disagreement) ## 抵制、数据中心和 NFT 粗略来说，每个人都能看到 AI 很烂。这些伤害并非深奥难懂：它们显而易见，被广泛宣传，甚至被大胆广告！兴高采烈地吹嘘你的产品将如何摧毁生命，确实会让公众讨厌你！ 因此，反对之声四起：跨越左右，跨越性别、阶级和种族的界限，遍布世界 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-weird)。自称 AI 反对者的主要武器有三样： 1. 鼓励抵制 AI 技术及其产品 2. 拖延和阻止数据中心的建设 3. 论证 AI 不能、不会、也无法工作 抵制的论点很简单。AI 正在造成巨大伤害：作为消费者，我们应该避免给这些公司钱，并对那些硬塞给我们的免费 AI 功能嗤之以鼻。我们应该抵制使用它的游戏、电影、产品和开源库，并支持“人类”艺术家。 我们可以列出垃圾软件的清单，在 Steam 上刷差评，在社交媒体评论中大声抱怨新的 AI 功能，并向我们的朋友诋毁这项技术。资本主义需要客户，通过持续的压力和达到临界质量，这些运动可以扼杀“有前途的”、有害的或无价值的技术。 3D 电视和 AR 眼镜、NFT 和 New Coke、转基因食品和种族隔离。所有这些都曾被贪婪的公司或强大的国家大力推动。它们都被击败了，很大程度上是由于集中化的消费者蔑视。 AI 为什么会不同呢？有人令人信服地告诉我，AI 并非不可避免 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-inevitable)。 为了阻止数据中心，AI 反对者动用了西方最强大的武器之一——邻避主义（NIMBYism）。结合环境和社会关切，地方团体已经集结了广泛的联盟：在美国、欧洲和更广泛的西方世界，赢得了拖延，并阻碍了数据中心的建设。 确实存在真实的胜利，有时阻止了真正的伤害。Colossus (https://en.wikipedia.org/wiki/Colossus_(data_center)) 是一个真正的怪物，在密集的城市环境中排放污染物和噪音，公然蔑视 (https://arstechnica.com/tech-policy/2025/06/xai-faces-legal-threat-over-alleged-colossus-data-center-pollution-in-memphis/) 地方治理。Stratos 项目威胁要通过建设 9 GW 的新燃气发电厂，使整个犹他州的碳排放增加 50% (https://utahnewsdispatch.com/2026/05/01/box-elder-county-data-center-increase-carbon-emissions/)！这些项目很糟糕，必须被阻止。 但是，如果你听听最著名的 AI 反对者，比如 Timnit Gebru (https://en.wikipedia.org/wiki/Timnit_Gebru) 和 Emily Bender (https://en.wikipedia.org/wiki/Emily_M._Bender)，问题要深刻得多。他们声称，AI 本质上是一场骗局。他们用论文、博士学位和多年的行业经验论证，LLM 只是简单地复述其输入 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-regurgitating)；纯粹的随机鹦鹉 (https://en.wikipedia.org/wiki/Stochastic_parrot)。没有真正的理解，因此没有真正的价值。毕竟，这已经数学上 (https://arxiv.org/abs/2507.07505) 证明了 (https://arxiv.org/abs/2410.04840)。 Ed Zitron (https://en.wikipedia.org/wiki/Ed_Zitron) 将这个论点带入商业世界，使用详细的财务分析论证，CEO 们在他们集体的 AI 精神错乱中，正在将这项技术强加于我们，抬高估值，吸走资本，然后在股市傻瓜面前全部抛售。他们的服务亏本出售，由 VC 资金支撑，没有真正的市场——只有一个由炒作驱动的合同和自利交易组成的错综复杂的网络。 确实：像任何新技术一样，AI 像苍蝇一样吸引了白痴和骗子。CEO 们叫嚷着（“我们必须转向 AI！”），即使他们垂涎欲滴（“我们可以削减 80% 的工资单！”）。大多数新的 AI “功能”比无用更糟糕，大多数 AI 初创公司将会失败，包括一些规模大得惊人的玩家。 1. 当然，这并非特别真实。消费者对 AI 的反对，尤其是对数据中心的反对，主要是一种 WEIRD (https://en.wikipedia.org/wiki/The_WEIRDest_People_in_the_World) 现象。美国人、加拿大人（我！）和欧洲人对 AI 的负面看法 (https://www.politico.com/news/2026/06/15/people-around-the-world-see-a-winner-on-ai-and-its-not-the-us-00960930) 明显多于发展中国家。不过，*我*是 WEIRD 的，而你，正在阅读本文的好奇反对者，很可能也是。你所处的过滤气泡确实影响了你看到的信息。↩ 2. 我在这个方面找到的最有力论证来自 David Krueger (https://therealartificialintelligence.substack.com/p/ai-is-not-inevitable)，他基于可被限制的真实物理输入（如核扩散）来反对不可避免论，以及 Mar Hicks (https://www.fastcompany.com/91384078/nothing-about-ai-is-inevitable-historian-mar-hicks-on-rejecting-the-future-were-being-sold)，他令人信服地论证了不可避免论是一种修辞和营销策略。↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-inevitable) 3. 我们一定是在文献综述中错过了单位距离 Erdős 问题 (https://www.scientificamerican.com/article/ai-just-solved-an-80-year-old-erdos-problem-and-mathematicians-are-amazed/) 的解决方案。↩ (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fnref-regurgitating) ## 不幸的是，AI 确实有效 如果你只接触过免费层级的模型——2023 年的 ChatGPT、Google 那糟糕的搜索助手以及公司为了赶时髦而塞进来的各种随机垃圾——你很容易相信“随机鹦鹉”的说法。这是一个可以理解的情况：抵制 AI 工具在理性和道德上都是合理的，尤其是如果你只见过这些的话。 如果仅此而已：你是对的。AI *将会*是一个可怕的泡沫，一个技术死胡同，被那些沉迷于虚假奉承的受骗马屁精所炒作。 但故事并未结束，下一个 AI 寒冬 (https://en.wikipedia.org/wiki/AI_winter) 也遥不可及。作为一名程序员、科学家、作家：我亲眼见证了这些工具的能力。 轻松生成可用的（尽管平庸）代码，近乎免费的代码审查，能发现真正的问题（以及许多想象中的问题 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-hallucinations)），解决那些会浪费数天的可怕的 Linux 驱动程序问题（70% 的情况下，它每次都能奏效）。 即时的、不完美的文献综述，超强的语义搜索，比我见过的每一个科学研究生都好的统计专业知识 (https://shaping.systems/blog/ai-sucks-hating-it-is-not-enough/#user-content-fn-statistics)。 现在，编辑校对几乎免费且普遍可及。机器比你一般的社交媒体用户更能理解你的论点，要么反驳你，要么强化你的观点，但前提是你想到要问它。你可以接触到无限的、不准确的测试受众模拟