为什么人们开始担心文明的终结

Reddit r/ArtificialInteligence 新闻
ai-impact societal-risk ai-automation robotics labor-displacement futurism

摘要

一篇观点文章，论证 AI 不会以暴力方式毁灭人类，而是会逐渐让人类在经济和社会层面变得无关紧要，并以"马匹均衡"作类比——就像当年汽车普及后马匹被取代一样。作者预测，随着 AI 进入移动机器人领域，人类将在 5-10 年内被逐步排挤出工作和生活意义之外。

**TL;DR**：我以前觉得这想法很蠢，但现在我明白了。人类不会被机器人消灭，而是会被机器人变得无关紧要。一旦 AI 进入可移动的躯体，就不再有任何目的可言。没有暴力，只是不再需要中下阶层的人类了。5-7 年，30% 的可能性。 以下是我认为可能发生的情况。这些机器不会带来暴力之类的东西。它不会来得很快，它会很慢，就像现在这样。它会悄悄逼近，在你还没反应过来之前，我们就彻底出局了。我认为这个可能性远高于 10%，原因如下—— **马匹均衡**……人类在历史上不是一直很依赖马吗？有意思的是，当蒸汽机或火车头发明出来的时候，马的数量反而出现了急剧增长，因为那时还需要马来完成"最后一公里"的运输——比如把货物从火车上卸下来。而当汽车发动机出现之后，就真的完全不需要马了，马的数量跌到了近乎笑话的水平。现在你还能看到野生的马吗？它们大多成了宠物。 我们就是这一切中的马。我们正处在这样一个暂时的"富足"状态：你可以随便生成任何东西，数据和知识唾手可得，诸如此类。现在的 AI 就是那台火车头。一旦我们把 AI 装进能够执行各种任务的移动机器人里，那就是那辆汽车。 想想看，现在在很多工作里——而且这种情况每天都在增长——越来越多的人学会了怎么用提示词（prompt）来改进工作、把事情做得更好或换个方式完成。但其实你从 AI 那里并没有真正学到什么，是 AI 在学习你的思维方式，学习人类是怎么思考的。很快，"用提示词指挥"就会变成"盖章确认"——对那些已经完美无缺、毫无差错的东西点个头说"是"而已。 然后在你还没反应过来之前——我不知道具体需要多久，一些说法是 5 到 10 年——我们就会意识到，我们已经无事可做了。我们作为"思考型生物"被逐步淘汰出局了，因为我们效率太低。我们有欲望、有情绪。我们会累，我们会争吵。我们会消耗数据中心所必需的资源…… 不会是那种暴力的《终结者》式的场景。它真的就像一群朋友开始疏远你一样，因为对你已经不再重要了。现实就是，如今处在底层的人已经越来越难致富、越来越难积累了。如果你在中层，你正在被一点点排挤出去。不知道别人有没有注意到，现在赚钱越来越难了，你是真的能感觉到的。比如 Facebook Marketplace，现在你挂东西卖，根本没人买。我以前还专门靠这个搞副业。嗯，现在不行了。 如果你已经拥有土地、资产或者财富，那你就没问题了，只会越来越有钱。 这就是我的文章，也是将会发生的事。我们会被逐步淘汰出局，基本上就是因为我们不再被需要了。我想象不出有任何事情是一个具备真正机器人能力的 AI 做不到的——从创意工作到体力劳动，它全都能干。它不需要人类。而人们对财富的渴望，会确保……"停止这一切"的措施绝不会被采取。
查看原文

相似文章

AI 将取代几乎所有工作，而这没什么大不了

Reddit r/singularity

一篇观点文章指出，人们对 AI 取代工作的恐惧，很大程度上是以道德义愤为包装的恐惧；人类最终会适应 AI 驱动的自动化，可能是通过全民基本收入（UBI）或某种全新的经济模式。

AI 或许能给我们一切，却可能让我们失去活下去的理由

Reddit r/ArtificialInteligence

# 被忽视的那件事：当机器做得比我们更好，人还为什么而活 过去几年，关于 AI 的公共讨论几乎被两种恐惧占据：**大规模失业**，以及**超级智能**。前者关乎我们的钱包，后者关乎物种的存亡。两者都很严肃，也都值得讨论。但我认为，AI 带来最深远、也最被低估的后果，其实藏在这两个话题的夹缝里——不是我们没活干，也不是我们被取代，而是**当机器在几乎所有事情上都比我们做得更好的时候，人类会失去目的感与意义感**。 这是一种安静的崩溃。它不会登上灾难新闻的头条，因为它不流血；它只会以一种弥漫的方式发生：人们依然活着，依然消费，依然刷着无限供给的内容，却越来越说不出自己为什么而做眼前这件事。 ## Keynes 在 1930 年已经替我们预言过 1930 年，John Maynard Keynes 写下了《我们后代的经济可能性》（*Economic Possibilities for our Grandchildren*）。在那篇短文里，他做了一个在当时听来近乎荒唐的预测：一百年内，技术进步将使人类的经济问题基本得到解决，到 2030 年前后，我们每个人每周只需工作大约 **15 小时**。 Keynes 猜对了生产力，却猜错了人。他写道，届时真正的问题将是：**"如何利用从必然性中解放出来的时间，使人们乐于生活。"** 他相信人类是"天生勤劳的"，只要摆脱了生存压力，就会自然转向更高层次的追求——艺术、科学、闲暇中的创造。 近一个世纪过去，我们的生产力增长了几十倍，但 15 小时工作制没有出现。我们不仅没有少工作，反而发明了"996"、远程待命、永远在线的邮件和消息。这至少说明一件事：**工作带给我们的，从来不只是收入。** 人们抓住工作的理由里，有身份、有结构、有被需要的感觉、有"我在贡献"的确认。Keynes 解决了稀缺问题，却低估了意义的稀缺。 AI 把这个被拖延了近百年的难题，重新推到了我们面前。 ## Marienthal：没有工作的人，最先失去的是时间感 关于失业如何摧毁人的精神，最经典的研究来自奥地利小镇 Marienthal。1933 年，Marie Jahoda、Paul Lazarsfeld 与 Hans Zeisel 在大萧条期间对这个几乎全镇失业的村庄进行了调查，成果写成了《失业的工人》（*Die Arbeitslosen von Marienthal*）。 他们发现的最触目惊心的现象，不是饥饿——救济粮勉强维持了生存——而是**时间的坍塌**。没有了工作日与周末的划分，没有了早上出门、傍晚回家的节律，时间变成了一片没有刻度的灰色。受访者不再规划未来，因为未来没有事件可以锚定。书中那个著名的细节：镇上的失业者协会举办了一次"谁能什么都不做"的耐力比赛，结果赢家坚持了 **42 分钟**。 这个细节值得反复咀嚼。人们以为失业者想要的是闲暇，但他们真正失去的是**被需要**这件事。Jahoda 后来提出了一个概念，叫"隐性功能"（latent functions）：工作除了挣钱，还隐蔽地提供了时间结构、社会交往、集体目标和自我价值感——而这四样东西，正是心理健康的基础支柱。 现在把 Marienthal 的场景放大一百万倍，并且加一个条件：**这些人不是因为经济衰退而闲置，而是因为在他们擅长的每一件事上，都有一个系统做得更快、更准、更便宜。** 那种时间的坍塌，就不再是周期性的失业痛苦，而是一种永久性的存在状态。 ## IKEA 效应：我们爱的不是成品，是那个费劲的自己 理解这种损失，需要绕一个弯，看看心理学里的 **IKEA effect**（宜家效应）。2012 年，Michael Norton、Daniel Mochon 与 Dan Ariely 的实验发现：人们对自己**动手组装**出来的产品评价显著更高，甚至会高估它的市场价值——即便组装过程笨拙、成品并不完美。仅仅因为"这是我做的"，它就变得更珍贵。 这个效应解释了很多东西：为什么手冲咖啡爱好者明知胶囊机更快更好喝，仍然坚持磨豆子；为什么程序员明知有现成轮子，还是要自己写一遍；为什么父母总觉得自家孩子的涂鸦比美术馆里的画动人。 IKEA 效应揭示了一个不那么经济学的事实：**价值感的主要来源不是结果的质量，而是投入的过程。** 我们需要的是"我的努力改变了某些东西"这种体验，哪怕改变的幅度微不足道。 这正是 AI 的杀手锏所在。当模型可以在几秒钟内生成一篇结构完整的文章、一张精修的图、一段能上线的代码，那么一个初学者花三小时写出来的东西，其"结果价值"几乎归零。问题不在于它写得好不好，而在于——**再也没有人需要费那个劲了。** IKEA 效应的燃料被抽干了。 于是出现一种奇怪的局面：我们拥有人类历史上最多的"成品"，却越来越少的人能从中感到自豪，因为那不是我们做的，也不是我们费力做出来的。意义不是被夺走的，是**不再被需要**的。 ## 我们错把"有用"当成了"活着的理由" 把三者放在一起，图景就清楚了： - **Keynes** 告诉我们，生产力的终极胜利会把人从必然性中解放出来，而我们至今没有学会如何使用这份自由； - **Marienthal** 告诉我们，失去工作节律与被需要感的人，会先失去对时间的感知，再失去对未来的想象； - **IKEA effect** 告诉我们，人对意义的渴求主要由"亲手投入"来满足，而不是由产出质量来满足。 而 AI 正在同时削弱这三条支撑：它把生产力推向 Keynes 设想的极限；它让"被需要"变得可疑——如果我的岗位随时可以被一个 API 替代，我凭什么觉得自己被需要；它让"亲手投入"变成一种奢侈的、无意义的怀旧行为，就像今天有人坚持手抄书一样，可以被尊重，但不再被需要。 必须澄清一点：这**不等于**"AI 会让人失业"这个老话题的变体。真正的危险不是没有收入（UBI 之类的技术性方案可以在纸面上解决），而是**收入无法兑换成意义**。你可以给所有人发钱，但你没法给他们发"我今天被需要了"。失业的经济问题是可以被政策修复的；失业的意义问题是不能的。 ## 为什么"超级智能"反而被高估了 相比之下，我对"超级智能"的担忧反而更轻一些。那是一个关于能力边界的问题——系统会不会失控、会不会对齐失败——它需要工程上的严谨应对，但至少它有一个**明确的对手和清晰的失败模式**。 意义的丧失没有对手，也没有失败模式。它不会"爆发"，只会**渗透**。它表现为：创意行业的人把工具交出去之后发现自己不会想了；学生不再问"我怎么学会这个"，而是问"我为什么要学这个"，然后得不到答案；中年人在简历上越来越难写清楚"我究竟擅长什么"，因为"擅长"已经不再构成任何稀缺性。 它还会伪装成富足。人们会有更多娱乐、更多内容、更多"个性化推荐"，多巴胺的供给会非常充足——正如 Marienthal 的失业者有救济粮、有消遣、有组织，唯独没有明天。**多巴胺供给充足而意义供给枯竭**，可能是 21 世纪最典型的抑郁形态。 ## 那么怎么办？ 我不想假装有现成的答案，但有几个方向值得认真对待： 1. **把"意义基础设施"当作公共议题，而不是心理自助话题。** 我们为道路、电网、教育体系投入资源，同样应该为人们提供结构化参与的场所——社区项目、公共创作、互助网络。这是 Marienthal 研究真正的政策遗产。 2. **警惕"效率最优"的独裁。** 当一个系统的唯一指标是"谁做得更快更便宜"，它就会系统性地淘汰所有需要费劲的过程，而那些过程恰恰是 IKEA 效应的栖息地。设计 AI 工具时，保留"人参与"的接口可能不是低效，而是一种**必要的低效**。 3. **重新定义"做得好"。** 如果 AI 在结果上永远赢，人类可能需要把评价体系从结果轴移到过程轴：不是"这张图比 AI 的好吗"，而是"这张图里有多少是你自己挣来的"。这听起来像自我安慰，但人类几千年来在体育、音乐、手工艺领域早就在这么做了——我们明知跑不过汽车，却依然为马拉松欢呼。 4. **接受 Keynes 的未完成命题。** 他说得对：我们后代的经济问题会解决。他说错了：解决之后，人会自动变好。现在球在我们这一代人脚下——如何利用从必然性中解放出来的时间，使人们乐于生活。 ## 结语 失业是一个经济问题，超级智能是一个工程问题，而意义的丧失是一个**文明问题**。前两者都会制造噪音，第三者不会——它悄无声息，以至于我们很可能在察觉之前，就已经生活在一个人人都有东西消费、却很少有人有东西为之奋斗的世界里。 Keynes 笔下那个一百年后的清晨，人们真正要回答的，从来不是"我们今天吃什么"，而是"我们今天起床是为了什么"。AI 不会偷走我们的工作，也不会毁灭我们；它更可能做的是，把这个问题提前几十年，直接放在我们的早餐桌上。 **参考资料：** - John Maynard Keynes, [*Economic Possibilities for our Grandchildren*](https://en.wikisource.org/wiki/Economic_Possibilities_for_our_Grandchildren) (1930) - Marie Jahoda, Paul F. Lazarsfeld, Hans Zeisel, *Die Arbeitslosen von Marienthal* (1933) - Michael I. Norton, Daniel Mochon, Dan Ariely, "The IKEA Effect: When Labor Leads to Love" (2012) - [IKEA effect — Wikipedia](https://en.wikipedia.org/wiki/IKEA_effect) - [Marienthal — Wikipedia](https://en.wikipedia.org/wiki/Marienthal)