AI 行业的领导者（大概率）并非在假装恐惧

来源：https://www.vox.com/politics/505834/ai-doom-anthropic-openai-pr

硅谷长期以来一直在警告，他们最钟爱的技术可能会把我们所有人都害死。但近几周，关于 AI 末日潜力的讨论变得愈加响亮。

今年九月，Anthropic 研究员 Jacob Coxon 从公司辞职 (https://nymag.com/intelligencer/article/ai-researchers-quit-openai-anthropic.html)，指责前雇主在开发远超其控制能力的更强大模型，是在“拿我们的生命做赌注“。Coxon 的一位前同事也赞同这一判断，声称未来十年内 AI“杀死全人类“的概率超过 10%。

这些公司领导层近期的表态几乎同样令人不安。上个月在联合国，Anthropic 首席执行官 Dario Amodei 警告称 (https://www.theguardian.com/world/2026/sep/23/unga-sam-altman-dario-amodei)，如果“管理不善“，AI 模型“可能对全人类构成威胁“。OpenAI 的 Sam Altman 也宣称，我们人类可能会向他公司正在销售的那种软件“失去对未来的控制权“。

这一切引发了铺天盖地的媒体报道 (https://thehill.com/policy/technology/6085616-anthropic-resignation-viral-debate/)和政策辩论 (https://www.brookings.edu/articles/trumps-morally-binding-ai-pact-is-not-enough/)，围绕 AI 的“存在性风险“以及我们能做些什么展开了讨论。

核心要点

• 一些批评者认为，AI 领导者关于存在性风险的警告是一种公关策略，目的是吸引投资、转移对当下危害的注意力，并争取有利的监管环境。
• 但这一理论并不太站得住脚。
• 更简单的解释是：许多 AI 高管、研究人员和“叛离者“确实相信这项技术构成灾难性风险，这基于 AI 在能力与自主性方面持续增长的真实趋势。

然而，AI 行业的一些最尖锐的批评者感到的更多是恼怒而非恐惧。在他们看来，世界并非站在机器人灭绝的悬崖边缘，而更像是落入了江湖骗子的圈套。这一论点已经发酵了多年，由一批广泛的观察者提出，包括语言学家 Emily Bender（“这让产品看起来更加强大 (https://www.theatlantic.com/technology/archive/2023/06/ai-regulation-sam-altman-bill-gates/674278/)”）、计算机科学家 Timnit Gebru（“这不仅仅是一种干扰，更是有害的 (https://www.wired.com/story/the-big-interview-podcast-timnit-gebru)”），以及 Substack 专栏作家 Ed Zitron (https://www.wheresyoured.at/ai-is-already-in-dangerous-hands/)和众多记者 (https://www.theatlantic.com/technology/archive/2023/06/ai-regulation-sam-altman-bill-gates/674278/)及社交媒体 (https://www.youtube.com/watch?v=lvlTpE0VDfk)网红 (https://www.youtube.com/watch?v=pauBYSQ1K_c&xstg=CAMSEBUJ_b-oH-PhF0yjBgb_zzE%3D)。

在他们的逻辑中，Altman 和 Amodei 高调宣扬其技术的灾难性潜力，并非因为他们在理性上真正担忧 AI 的发展方向——而是因为他们的公司对更多投资有着极度饥渴的胃口。“AI 末日论“近几周之所以更加引人关注，不是因为担忧的理由变得更充分，而是因为 OpenAI 和 Anthropic 的 IPO 已经越来越近了。

简而言之，这些大型科技公司的怀疑论者认为，记者和政客们落入了一种违反直觉的公关策略的陷阱——通过炒作荒谬的科幻场景来制造媒体狂热，以此大肆渲染 AI 的技术前景，转移人们对聊天机器人当下危害的注意力，并帮助各家实验室争取有利的监管待遇。

如果这一切属实，那倒令人安心。不幸的是，这个理论并不令人信服。几乎没有理由相信，围绕 AI“存在性风险“的恐慌是硅谷营销部门炮制出来的。相反，对 AI 行业末日言论最合理的解释也最直截了当：许多该行业的高管、员工和分析师确实相信 AI 进步正构成灾难性风险。

在我与业内密切观察者的交谈中，即使是一些 OpenAI 和 Anthropic 最激烈的批评者也承认，其领导层公开表达的担忧不太可能仅仅是营销手段。作家兼计算机科学家 Cal Newport 告诉我：“我越是了解这两家实验室成立背后的意识形态，就越觉得我们面对的是一种真诚的信念。”

这并不意味着 Amodei 和 Altman 是对的，更不意味着我们可以信任他们的判断或品格。有 (https://www.nytimes.com/2026/09/05/opinion/ai-silicon-valley.html)许多理由 (https://calnewport.com/dear-ai-companies-stop-the-doom-trolling/)怀疑“2036 年的天气预报是’多云，可能有机器人末日’“这一说法，也不相信有人能在不凭空编造数字的情况下就为这种结果赋予“10%“的概率。

尽管如此，硅谷的“预言家“们确实有一些逻辑和证据支撑。AI 模型正在变得越来越强大、自主，而且可以说越来越难以驾驭。如果这些趋势不受遏制地继续发展下去，不难想象它们可能导致非常糟糕的后果。

鉴于事关重大，我们不应该在站不住脚的理由上轻易驳回他们的警告。而“公关“理论恰恰犯了这个错误。

AI 公司（据称）如何从机器人末日的恐惧中牟利

在分析 AI“末日论“为何可能并非公关噱头之前，有必要再多谈一下为什么有些人认为它就是公关噱头。

根据 Bender、Gebru 等人的说法，AI 公司至少可以从关于人工智能存在性风险的讨论中获得三方面的好处。

第一，它能吸引投资。用《大西洋月刊》记者 Matteo Wong 的话说，末日叙事暗示 AI 实验室的模型 (https://www.theatlantic.com/technology/archive/2023/06/ai-regulation-sam-altman-bill-gates/674278/)“注定会变得令人恐惧地强大”，从而利润丰厚。正如《洛杉矶时报》的 Brian Merchant 在 2023 年第一波 AI 恐慌浪潮期间所指出的 (https://www.latimes.com/business/technology/story/2023-03-31/column-afraid-of-ai-the-startups-selling-it-want-you-to-be)：“还有什么比带着某种不容置疑的可信度，坚称你的新技术威力强大到可能颠覆我们所知的世界，更能制造轰动效应的呢？”

“如果你把这些威胁定位为无所不能、某种程度上不可知的，你就能成为这方面的权威。” —— AI Now 研究所的 Kate Brennan

第二，炒作 AI 假想的未来危害，可以转移人们对这些公司当前不当行为的注意力。我们每花一分钟争论 AI 是否有朝一日会把我们所有人都变成回形针 (https://tdwi.org/blogs/ai-101/2026/05/the-thought-experiment-behind-ai-alignment.aspx)，就少了一分钟去讨论 AI 实验室被指控的版权侵权 (https://www.npr.org/2025/06/25/nx-s1-5445242/federal-rules-in-ai-companys-favor-in-landmark-copyright-infringement-lawsuit-authors-bartz-graeber-wallace-johnson-anthropic)、环境污染 (https://www.vox.com/politics/488754/data-centers-ban-electric-bill-water)、劳工违规 (https://news.bloomberglaw.com/daily-labor-report/ai-data-trainers-suits-open-new-misclassification-fight-frontier)，以及诸多其他社会危害。

第三，末日叙事将监管审查引离那些直接威胁 AI 公司盈利能力的议题——比如版权执法——同时也暗示监管机构必须依赖实验室自身来获取指引。

“如果你把这些威胁定位为无所不能、某种程度上不可知的，你就能成为这方面的权威，“专注于人工智能近期危害的进步派智库 AI Now 研究所的 Kate Brennan 告诉我。

关键在于，对于“AI 末日论“最坚定的怀疑者来说，行业高管和员工并不是这一公关策略的唯一共谋者。像 Coxon 这样的自我标榜的“吹哨人“同样可疑 (https://thebulletin.org/2026/09/how-the-bad-science-of-ai-doomerism-is-good-for-big-business/)，因为他们可能在“利用聚光灯效应为新创业项目吸引资金或谋取新职位“。甚至非营利 AI 安全组织也被认为充当了大型科技公司营销活动的工具 (https://www.wired.com/story/the-big-interview-podcast-timnit-gebru/)，这一点反映在主要实验室与这些智库之间的资金和人际关系往来上。

承诺终结世界之外，还有更好的筹款方式

对 AI 末日论的“公关“批评有一定道理。AI 公司大概更愿意谈论技术假想的未来危害，而不是产品当下的现实损害。而如果公开宣扬 AI 的存在性风险违背了 Anthropic 和 OpenAI 的商业目标，其领导者几乎肯定会减少在公开场合讨论这一话题。（披露：Vox Media 是与 OpenAI 签署合作协议的多家出版商之一。我们的报道保持编辑独立性。）

但由此并不能推断 Altman 和 Amodei 的警告是有意识的营销策略，是出于愤世嫉俗的算计而非真正的担忧。有几点理由可以质疑这一指控。

首先，AI 公司从来不缺乏宣扬其技术能力的方式。很难看出有任何公司会认为，从纯财务角度来看，把自己描绘成人类生存的威胁是最优策略。

对投资者而言，AI 公司的吸引力不在于它们可能会让全人类沦为机器上帝的奴隶，而在于它们理论上可以赚取巨额利润。

或许把你的聊天机器人描述为一种“存在性“风险能说服一些资本家相信你未来的盈利能力。但这似乎是一种非常迂回的推销方式——而且几乎可以肯定，它不如证明很多大企业愿意租用你的软件来得有效。

“如果这些人卖的是粘蝇纸——而且营收增长得跟现在一样快——投资者的兴趣大概也是差不多的，“Bloomberg 风投部门负责人 Roy Bahat 告诉我。

而且，即使这些公司铁了心要用对其技术未来能力的宏大预测来震撼公众，它们也几乎不需要搬出机器人末日论。宣扬 AI 治愈癌症、消除贫困或助力星际旅行的潜力，似乎都能实现同样的目标，同时对公司的公众声誉和免受过度监管威胁的自由造成的损害更小。

事实上，许多在主要 AI 实验室的成功中有着既得利益的人，恰恰是以这种方式来宣扬这项技术的。OpenAI 投资人 Marc Andreessen 将 AI 安全忧虑斥为“全面的道德恐慌 (https://x.com/pmarca/status/1666112663657775106)“，同时坚称人工智能将“赋予人类力量 (https://a16z.com/ai-will-save-the-world/)”，治愈所有疾病并实现“星际旅行“。同样，芯片制造商 Nvidia 的首席执行官、同时是 OpenAI 和 Anthropic 重要投资人的 Jensen Huang，也称 AI 灾难性潜力的说法是“彻头彻尾的胡说八道 (https://finance.yahoo.com/technology/ai/articles/nvidia-ceo-jensen-huang-says-110400624.html)“。如果炒作 AI 末日论对于吸引投资至关重要，那看来并非硅谷所有人都收到了这一指示。

媒体似乎并没有那么被分散注意力

推广 AI 存在性风险的恐惧同样不是一种高明的媒体管理手段。

毫无疑问，企业总是试图将新闻报道引离其最大的法律和伦理隐患。但公司可以通过很多不同方式来争取更有利的媒体报道。而从危机公关的角度来看，把自己牵扯进末日叙事似乎并非最优选择。至少很难举出其他行业曾尝试过类似手法；面对关于福岛灾难 (https://www.unscear.org/unscear/en/areas-of-work/fukushima.html)的媒体报道，原子能公司并没有通过炒作核冬天的威胁来回应。

更重要的是，有理由怀疑 AI 末日论在实际中是否真的减少了人们对 AI 即时弊端的关注。人类的注意力确实是有限的，某些问题的报道必然会挤占对其他问题的报道。然而，当一篇报道引发了公众对某个人、机构或行业的兴趣时，媒体往往会以更加严格审视其更广泛的行为作为回应。从这个意义上说，关于 AI 存在性风险的警告理论上可能会增加对这项技术当下危害的新闻关注。

这似乎在我自己的出版机构就发生了。自 Coxon 辞职 (https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628)引发了一场关于 AI 末日潜力的舆论风暴以来的几周里，Vox 发布了比他离开前那一个月更多关于 AI 近期威胁的报道——包括关于人工智能如何可能危及美国关键基础设施 (https://www.vox.com/future-perfect/503068/ai-infrastructure-hacking-cybersecurity)、助长战争罪行 (https://www.vox.com/future-perfect/503564/military-ai-minimally-refuse-war-crimes)、降低健康保险福利 (https://www.vox.com/good-medicine-newsletter/503932/ai-health-insurance-united-medicare-cigna-humana)、帮助生物武器研发 (https://www.vox.com/technology/503361/ai-bioweapons-pandemics-extinction)，以及损害青少年心理健康 (https://www.vox.com/technology/504854/chatgpt-claude-character-ai)的文章。

更大的新闻机构似乎也没有更加“分心“。过去一个月里，《纽约时报》发表了关于 AI 如何加剧空气污染 (https://www.nytimes.com/2026/09/10/climate/ai-data-centers-air-pollution-health.html)、破坏高等教育 (https://www.nytimes.com/2026/09/15/us/universities-ai-warnings-enthusiasm.html)、帮助体育博彩公司 (https://www.nytimes.com/2026/09/19/business/draftkings-ai.html)瞄准问题赌徒，以及压低年轻工人实际工资 (https://www.nytimes.com/2026/09/16/business/ai-raises-hiring.html)的文章。

而且，AI 末日论是否真的有效地帮助头部实验室逃避了监管审查，也并不明朗。毕竟，那些最认真对待存在性风险论点 (https://www.ghostrunnerblog.com/p/district-twelve-ep-22-micah-lasher-edb)的政客 (https://www.sanders.senate.gov/press-releases/prepared-remarks-sanders-regulating-ai-is-as-american-as-apple-pie)（https://casar.house.gov/media/press-releases/news-casar-sanders-introduce-legislation-create-new-federal-agency-ban），往往也是美国最积极推动监管 AI 对劳工 (https://casar.house.gov/media/press-releases/news-casar-leads-introduction-new-bill-protect-workers-threat-ai-mass)、环境 (https://www.sanders.senate.gov/press-releases/news-sanders-ocasio-cortez-announce-ai-data-center-moratorium-act)、艺术家 (https://micahlasher.com/platform-and-policies/)和教育 (https://www.nysenate.gov/legislation/bills/2025/A9190)影响的人。

AI 安全研究人员大概率不是 Anthropic 营销部门的马甲

最后，“公关“理论难以解释为什么这么多对 OpenAI 和 Anthropic 的成功没有多大利害关系的人也在担忧存在性风险。Coxon 只是众多辞去工作的人之一