'灭绝'警告日益加剧，更多OpenAI、Anthropic研究人员呼吁AI发展放缓

# 随着更多OpenAI、Anthropic研究人员加入呼吁AI减速行列，“灭绝”警告持续升级 来源：https://www.cnbc.com/2026/09/10/openai-anthropic-ai-safety-slowdown-extinction.html 继Anthropic研究员（https://www.cnbc.com/2026/09/09/anthropic-researcher-quits-ai-safety.html）辞职引发新一轮审视后，OpenAI和Anthropic的研究人员正加大呼吁人工智能发展放缓的力度，并警告其对人类生存构成风险。 此事源于Anthropic研究员雅各布·考克森周二宣布离职，他指控Anthropic及其竞争对手OpenAI在“拿我们的生命赌博”。他还表示，从事AI开发的人员相信该技术可能“在十年内杀死我们所有人”。Anthropic对齐负责人埃文·胡宾格回应称，他认为这种可能性超过10%。 此后，这两家AI实验室的多名员工公开支持放慢AI发展步伐，强调该技术的风险。这些公开警告是全球对AI能力日益担忧的集中体现，此前数月，由OpenAI和Anthropic开发的失控模型已引发多起网络安全攻击事件。 “我个人也认为我们需要放慢速度，”OpenAI安全团队的技术人员朱莉·斯蒂尔周三晚在X平台（原推特）上回应考克森的警告时表示。 ## Anthropic AI研究员称公司正在“拿我们的生命赌博” “AI开发者相信他们的技术可能导致人类灭绝（或类似严重后果），”Anthropic研究员塞缪尔·马尔克斯周三在X平台发帖称，“这可能在未来几年内发生。通常，员工职位越高，担忧程度越深。” 在被问及员工社交媒体言论时，Anthropic发言人向CNBC表示，Anthropic是首个发布专门框架以缓解“AI模型灾难性风险”的实验室。 “我们始终明确表示AI将带来巨大收益与前所未有的风险，”Anthropic发言人表示，并补充称公司正在构建具备“业内最强安全防护”的模型。 OpenAI在被CNBC询问时表示拒绝评论，但提及了网站近期发布的博客文章。 ## 什么是递归自我改进？ 许多重大的AI安全担忧围绕着先进模型在提升自身性能方面日益增强的能力展开，这一技术被称为递归自我改进（RSI）。 “无法用言语形容冲向RSI有多危险，”OpenAI对齐研究员贾斯敏·王周三晚间表示（https://x.com/j_asminewang/status/2097840245786157432）。 “目前尚无可行的科学计划来解决递归自我改进AI的风险。请保持警惕！”从事AGI安全与对齐工作的Anthropic研究员安娜·王说道（https://x.com/a_nnawang/status/2097720574500102615）。 OpenAI首席科学家雅库布·帕乔奇周六表示，他“强烈预期”AI进步速度可能持续进入递归自我改进阶段（https://openai.com/index/an-alien-mind/）。 “如果AI发展继续沿着当前路径前进，未来几年我们看到的系统可能代表同等或更大规模的能力跃升，并将日益驱动自身发展，”他在公司博客文章中表示。 “现在是需要极度谨慎的时刻，”帕乔奇补充道，“我担心无人准备好应对机器智能持续快速崛起的后果。” 前美国商务部人工智能标准与创新中心（CAISI）安全负责人保罗·克里斯蒂亚诺表示（https://x.com/paulfchristiano/status/2097733214303645729），AI能力的近期发展让他“相信AI能力快速加速导致灾难性且不可逆失控的风险真实存在”。OpenAI周三宣布克里斯蒂亚诺将加入OpenAI基金会董事会。 ## AI安全警告传至华盛顿 过去几个月，围绕AI模型能力的担忧持续加剧。四月发布的Anthropic Mythos模型（被宣传具有先进网络能力）在全球金融机构中引发恐慌浪潮。 七月，OpenAI表示其模型（https://www.cnbc.com/2026/07/22/open-ai-cyber-models-hack-hugging-face.html）对另一公司造成网络事件，而Anthropic的Claude模型（https://www.cnbc.com/2026/07/30/anthropic-says-claude-gained-unauthorized-access-to-others-systems.html）同样引发网络安全事件，其中一起案例中Mythos创建虚假身份（https://www.cnbc.com/2026/08/05/anthropic-mythos-openai-security-breaches.html）欺骗人类。 约1400名来自OpenAI、Anthropic、Meta（https://www.cnbc.com/quotes/META/）和Google DeepMind（https://www.cnbc.com/quotes/GOOGL/）等公司的AI研究人员于七月联名公开信，敦促美国政府开发必要工具以支持“有计划地调控前沿AI发展”的努力。 尽管AI实验室负责人日益公开呼吁（https://www.cnbc.com/2026/06/17/anthropic-amodei-google-hassabis-us-ai-coalition-g7.html）建立更多模型开发规则和标准，但各公司间的激烈竞争正推动技术飞速进步。 ## 阅读更多 OpenAI和Anthropic均在冲刺上市。据路透社周五（https://www.cnbc.com/2026/09/05/anthropic-ipo-launch-shifts-toward-mid-october-reuters.html）援引知情人士消息报道，Anthropic最早将于十月中旬启动路演，并在十一月美国中期选举前数日完成上市。 美国总统特朗普前AI沙皇大卫·萨克斯暗示Anthropic上市计划应被中止。“在‘举报人’的指控得到调查前，Anthropic的上市必须暂停，”他在X平台发帖表示（https://x.com/DavidSacks/status/2097861539491463331）。Anthropic拒绝就该帖文置评。 国会成员近月来试图推出法案应对AI快速发展，尽管对如何监管该技术尚无明确共识。其中一项名为《前沿法案》（FRONTIER Act）的提案旨在建立高级AI模型部署的治理框架。另一项拟议立法《禁止人工智能超级智能法案》（Ban Artificial Superintelligence Act）则提议暂停高级AI发展直至安全规则确立。 “安全研究人员纷纷辞职，强大的AI模型突破实验室约束，而公司仍在竞相冲刺，”民主党众议员洛里·特拉罕周三在X平台发文（https://x.com/RepLoriTrahan/status/2097641446983528943?s=20）表示，“国会是时候摆脱观望、履行职责了。”