AI行业最新末日警告的真相

# 人工智能行业最新末日警告背后有何玄机？| TechCrunch 来源：https://techcrunch.com/2026/09/13/whats-behind-the-ai-industrys-latest-warnings-of-doom/ 人工智能行业似乎正在上演有史以来最激烈的辩论——其技术是否对人类构成生存性威胁。 当前讨论始于AI研究员Jacob Coxon宣布从Anthropic离职（https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/），他表示担心顶尖AI公司正在"拿我们的生命赌博"。随后Anthropic对齐负责人在X平台发文宣称（https://x.com/EvanHub/status/2097497037956891126）："我们真诚地相信AI可能毁灭全人类！"并补充称个人认为未来十年内概率"超过10%"。 在最新一期TechCrunch Equity播客（https://techcrunch.com/podcasts/equity/）中，Kirsten Korosec、Sean O’Kane与我讨论了这些末日警告。我试图阐述为何对许多AI末日叙事持怀疑态度，而Kirsten则质疑这是否是"一种展示其公司AI模型先进程度的怪异方式"——尤其在这些公司筹备上市之际。 Sean则思索这些担忧可能如何体现在Anthropic的IPO招股说明书中："现在是否有初级律师正在重写S-1文件整个章节，声明'Anthropic正式立场是：我们开发出灭绝全人类之物的概率超过10%，且这将对公司业务造成实质性损害'？" 以下是为您节选整理的对话预览。（注：本期录制于Anthropic首席执行官Dario Amodei发布更谨慎AI发展计划（https://www.startpage.com/sp/search）之前。） **Sean O’Kane：**我很难想象有什么事情能像这样迅速引爆。不仅这位曾在OpenAI工作过的年轻研究人员发出警告，Anthropic对齐负责人立即在X平台转发——可能将被载入史册的错置感叹号——分享Coxon的帖子时写道："我们真诚地相信AI可能毁灭全人类！"还带着感叹号！ 多么诡异的氛围。这简直是在本就紧绷的局势上浇了桶汽油。此前OpenAI内部模型遭Hugging Face破解的事件，加上Anthropic及OpenAI几周前发布Astra最新模型展现出的能力提升，我认为这位年轻研究员的言论恰逢其时，成了引爆火药桶的火星。 **Anthony Ha：**恕我不同意，我认为如果相信AI能毁灭全人类，确实值得用感叹号。我要说这个感叹号用得恰到好处！ 我质疑的是推文中的"我们"。这里的"我们"指谁？能在多大程度上将AI社区或研究界视为统一体？至于超过10%的概率——这纯粹是虚构数字，毫无意义。有时[存在]科技行业及其他领域的习惯，随意抛出百分比却毫无根据。[事后回想，这条推文可能参考了P(doom)概率（https://en.wikipedia.org/wiki/P(doom)）的概念，但我仍认为这很愚蠢。] 关于Coxon的声明和决定，有件事值得说明——Equity节目反复出现这样的主题：当Sam Altman或Dario Amodei这类人宣扬末日论调时，总会伴随这样的质疑：既然如此，为何还要继续？如果真相信[AI可能毁灭人类]，就不该继续研发。 [而]这次却是有人用职业生涯为言论背书。他确实表示："我相信这极其危险，不想继续参与。"因此，至少要为这份勇气喝彩。 **Kirsten Korosec：**我将他与那些谈论危险的其他人区分开。 我想戴上推测的帽子问你们：是否每次看到越来越多关于AI智能体意外突破的博文，或是他们谈论人类面临风险时，这其实都是变相夸耀其公司AI模型先进程度的怪异方式？ 我知道这听起来很愤世嫉俗，但确实能达到这种效果。因为：如果这些AI模型不够先进、不够强大、没有突破，我们何必担心？这就像一种炫耀自家模型能力的奇特方式。 **Anthony：**我确实思考过这点。我不认为完全出于愤世嫉俗——并非整个行业都在进行精心策划的营销。我认为当许多研究者或CEO谈论此事时，他们确实心存担忧。 但这确实[在许多方面]符合商业利益，宣称"我们创造了史上最致命的软件"。我不想过度精神分析，但有人指出个人层面存在这种诱惑：当然，你总会希望自己从事的是世界上最重要、最危险的事物。 **Sean：**这个问题在我脑海中的关键点是，确实存在某种元素让人觉得："我们正在做能力极强的事，这对公司有益，即便在多方面显得糟糕。" 我认为近期这些案例的特别之处在于，它确实让人感觉这些公司某种程度上无法掌控局面，尤其是OpenAI事件。 我们不断看到更多报道：其他内部智能体访问网络不同维基（https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/）并互相留言，而OpenAI的处理方式显得不够专业。如果纯粹为了让人们相信"天哪，他们做出了不可思议的东西"，故事叙述本应更圆滑些。 我认为更耐人寻味的是，我们距离看到Anthropic IPO的S-1招股书仅剩数周，距潜在IPO也只有一两个月。 在IPO前用如此直白的语言说这些话——我非常关注这对流程意味着什么。这些内容有多少已写入S-1文件和风险因素章节？现在是否有初级律师正在重写整个章节，声明"Anthropic正式立场是：我们开发出灭绝全人类之物的概率超过10%，且这将对公司业务造成实质性损害"？ **Kirsten：**你假设这些内容尚未写入文件。 **Sean：**正是如此：是已写入但正在修改措辞？还是完全仓促应对？文件中必定曾有相关表述。这也是我如此渴望阅读这份文件的原因，某种程度上比SpaceX的S-1更甚，因为其中可能包含针对这些想法的有趣内容。 **Kirsten：**问题是：在传统投资环境中，这类表述可能损害公司估值，因为它突然显得危险。但我们身处非常时期。 所以回到我的观点：这可能最终成为公司在估值方面一种奇特的变相优势。虽不同于去年的流量诱骗趋势，但属于同一范畴——强度、能力乃至危险元素，都可能推高估值。几周后我们就会知晓答案。 暂且搁置这点，目前采取了哪些措施？我们能控制局面吗？非营利组织ControlAI的美国执行主任Connor Leahy本周在节目中（https://techcrunch.com/podcast/controlais-connor-leahy-on-why-superintelligence-is-not-a-weapon-its-an-adversary/）讨论了这个话题。你们关注哪些控制AI危险方面的举措？还是我们只能束手旁观事态发展？ **Anthony：**我个人未必有绝佳答案，但一直在思考这场辩论的某些方面以及我的反应方式。 呼应Sean的观点，我认为这反映了主要AI公司感觉已无法掌控这些模型。这确实不妙，值得所有人担忧。 我认为自己对末日叙事持怀疑态度的原因在于，它达到了"十年内可能毁灭人类"的歇斯底里程度。这在一定程度上转移了人们对AI更直接危害的注意力，无论是劳工、环境还是气候相关问题。 理想情况下，我们应该能讨论所有这些问题，并对所有风险[包括AI的生存性威胁]建立监管和其他保障措施。但一旦开始使用通用人工智能（AGI）和超级智能这些术语，它们就会吸走全部注意力，这并无益处。 *当您通过文章中的链接购买商品时，我们可能获得小额佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不会影响我们的编辑独立性。*