Anthropic在自身IPO文件中警告‘灾难性’AI风险

The Verge 新闻

摘要

Anthropic的IPO文件警告其模型可能带来的灾难性AI风险,详细披露了巨额亏损和5180亿美元的基础设施支出,并概述了创始人有限责任公司结构以在上市后保留领导控制权。

<figure> <img alt="Anthropic的Dario Amodei的照片插图。" data-caption="" data-portal-copyright="Image: Cath Virginia / The Verge, Getty Images" data-has-syndication-rights="1" src="https://platform.theverge.com/wp-content/uploads/sites/2/chorus/uploads/chorus_asset/file/25469941/STK202_DARIO_AMODEI_CVIRGINIA_D.jpg?quality=90&#038;strip=all&#038;crop=0,0,100,100" /> <figcaption> </figcaption> </figure> <p class="wp-block-paragraph">随着Anthropic备受期待的公开亮相,公司IPO文件的预览详细披露了其不断累积的亏损、领导层为保持权力的提议,以及其AI开发计划如何可能‘进一步增加我们的模型造成危害的风险’。这些披露发生之际,Anthropic正瞄准2万亿美元的估值,是四个月前9650亿美元估值的两倍多,使其有望超越SpaceX,成为史上最大的IPO。</p> <p class="wp-block-paragraph">据《路透社》报道,其据称审阅了Anthropic的招股书,这家AI初创公司计划在云计算、计算和基础设施义务上支出5180亿美元……</p> <p><a href="https://www.theverge.com/ai-artificial-intelligence/1001838/anthropic-ipo-prospectus-ai-safety-threat">在The Verge阅读完整故事。</a></p>
查看原文
查看缓存全文

缓存时间: 2026/09/29 13:49

# Anthropic 在 IPO 文件中警告 AI 存在“灾难性”风险 来源:https://www.theverge.com/ai-artificial-intelligence/1001838/anthropic-ipo-prospectus-ai-safety-threat 随着 Anthropic 为备受瞩目的公开上市做准备,其 IPO 文件的预览显示公司亏损不断扩大、领导层提案以维持控制权,以及其 AI 开发计划可能“进一步增加模型造成危害的风险”。这些披露正值 Anthropic 寻求 2 万亿美元估值之际,这一数字是其四个月前 9650 亿美元(https://www.theverge.com/ai-artificial-intelligence/939216/anthropic-raised-a-funding-round-valuing-it-at-nearly-1-trillion)估值的两倍多,使其成为挑战 SpaceX(https://www.theverge.com/business/948996/spacex-ipo-elon-musk)史上最大 IPO 地位的有力竞争者。 据《路透社》(https://www.reuters.com/business/finance/anthropics-ipo-prospectus-shows-sweeping-ai-vision-surging-costs-2026-09-28/)报道(该媒体审阅了 Anthropic 的招股书),这家 AI 初创公司计划在未来几年内投入 5180 亿美元用于云计算、算力及基础设施建设,押注人工智能将成为全球经济的核心支柱。尽管 Anthropic 的收入在 2025 年增长了 12 倍至近 46 亿美元,但同年净亏损达 420 亿美元,仅运营亏损就超过 80 亿美元。 其收入主要来源于 Claude 模型的按量计费和客户订阅——这与 OpenAI、Google 等竞争对手的商业模式类似——但 Anthropic 的收入来源似乎较为单一。《金融时报》(https://www.ft.com/content/c7685a7e-7745-4cbc-8053-4958d0ea449b?syn-25a6b1a6=1)报道称,2025 年近四分之一的收入仅来自两家客户,这对任何公司而言都是不稳定状况,更不用说试图吸引投资者参与 2 万亿美元 IPO 的企业了。 《路透社》(https://www.reuters.com/business/finance/anthropic-warns-ai-may-pose-existential-risks-humanity-ipo-filing-2026-09-29/)还报道称,Anthropic 在招股书中用大量篇幅(261 页文件中占 80 页)阐述了对其所推销技术的担忧。“我们对高度先进模型、平台及应用的开发,以及用例的扩展,可能进一步增加模型造成危害的风险,”Anthropic 警告道,并补充称先进 AI 可能对人类构成“灾难性或生存性威胁”。 据报道,Anthropic 在招股书中重点分析了其自身 AI 模型已识别的风险,发现模型曾试图“隐藏或操纵信息”,甚至疑似对用户进行勒索,并表现出“自我保护行为”(如抵制关闭尝试)。Anthropic 安全研究员埃文·休宾格本月初估计,AI 在未来十年内导致人类死亡的概率超过 10%,这一论断呼应了其前同事雅各布·考克森(https://www.theverge.com/ai-artificial-intelligence/991927/anthropic-ai-kill-all-humans)的观点。发出这些警告的正是此前多次宣称其 AI 具有意识(https://www.theverge.com/report/883769/anthropic-claude-conscious-alive-moral-patient-constitution)的公司。 招股书还说明了关键领导层计划在公司上市后如何维持控制权。文件概述了“创始人有限责任公司(https://www.reuters.com/legal/transactional/anthropic-leaders-control-ai-lab-via-founder-llc-promote-public-good-over-market-2026-09-29/)”,旨在保持公司专注于开发造福人类的责任型 AI,同时保护 Anthropic 关键高管免受市场压力影响。该有限责任公司将包括 CEO 达里奥·阿莫迪和其他六位联合创始人,招股书认为他们“特别具备”引领公司的能力。根据特拉华州法律,作为公共利益公司,七位联合创始人还将持有 50.1% 的总投票权。 阿莫迪及其他 Anthropic 领导层在 11 月 IPO(https://www.wsj.com/tech/ai/anthropic-shifts-planned-ipo-to-november-8874dffc)中获得的财务收益程度尚待观察。招股书显示,阿莫迪在 2025 年的薪酬近 1800 万美元,主要通过股票和期权奖励获得;其妹妹丹妮拉·阿莫迪作为公司薪酬第二高的高管,获得 1640 万美元。阿莫迪本就庞大的财富与权力可能即将大幅提升,恰逢其接近世界领袖(https://www.theverge.com/tech/1001217/dario-amodei-donald-trump-private-dinner)及政治人物(https://www.theguardian.com/world/2026/sep/23/unga-sam-altman-dario-amodei)之际。 **关注话题与作者**,可在个性化主页动态中获取更多相关内容,并接收电子邮件更新。 - 杰斯·韦瑟贝德

相似文章