Business Insider：我们询问AI它如何可能毁灭人类。以下是它告诉我们的。

# 我们询问AI将如何终结人类，这是它的回答 来源：https://www.businessinsider.com/how-ai-could-kill-humanity-chatbot-responses-2026-9 终结者电影场景 我们向四款最常用的生成式AI工具提问：AI"终结者式"末日可能是什么模样。/夕阳大道/Corbis通过盖蒂图片社 开发我们最喜爱的聊天机器人的研究人员越来越频繁地表达担忧：AI可能伤害——甚至终结——人类（https://www.businessinsider.com/anthropic-researcher-quits-over-ai-safety-concerns-2026-9）。因此，我们向四款最常用的生成式AI工具提问：AI末日可能是什么模样。 我们向OpenAI的ChatGPT、谷歌的Gemini、Anthropic的Claude以及SpaceXAI的Grok提出了相同的问题，措辞完全一致。 这个230字的提示包含明确的参数和指令，包括以下内容： > *请用清晰易懂的语言解释，AI理论上如何可能导致人类灭绝。列出最常被引用的情景。根据目前最可靠的专家分析，将这些情景从最不可能到最可能进行排序，并明确指出这些是高度不确定的预测，而非既定结论。针对每个情景，请解释：* > - *它可能如何发展* > - *需要出现哪些错误才会使其演变为灾难* > - *为何专家认为它比其他情景更可能出现或更不可能出现* > - *哪些保障措施可以降低相关风险* 我们也向AI专家提出了类似问题，了解他们关于AI是否以及如何可能消灭我们的看法——您可以阅读那篇报道（https://www.businessinsider.com/ai-apocalypse-anthropic-open-ai-how-it-would-happen-experts-2026-9）。AI专家之间存在明显分歧：一些人预测人类将面临最糟糕的结局（https://www.businessinsider.com/openai-safety-hire-people-die-lose-control-ai-paul-christiano-2026-9），而另一些人则提出更为谨慎和乐观的预测。 以下是聊天机器人就AI如何理论上导致人类灭绝所告诉我们的内容。 ## "杀人机器人"是最不可能的情景 ChatGPT采取了平衡且具解释性的语气，表示关于这个话题存在大量不确定性。 它聚焦于AI可能构成生存风险的主要方式，按可能性从低到高进行排序。 ChatGPT表示："最不可能的情景是流行的'杀人机器人'叙事，即有意识的AI故意决定消灭人类。大多数AI研究人员并不将意识或恶意意图视为核心关切。" 它还概述了专家提出的保障措施，并强调目前没有共识认为AI驱动的人类灭绝是可能的或不可避免的。 Gemini呼应了ChatGPT的部分观点，表示"科幻片《终结者》式接管"——即AI获得自我意识并开始憎恨人类——是最不可能的情景。 Gemini称："技术专家基本驳斥这种桥段，因为智能不等于恶意，且关键军事基础设施仍保持物理隔离并高度依赖人类监督。" ## 使用AI的人类比AI本身风险更大 在四个聊天机器人的回答中，它们都表示许多专家认为人类误用AI比AI本身构成更直接的风险。 ChatGPT表示："强大的AI系统可能使恶意行为者更容易开发生物武器、发动复杂网络攻击、传播虚假信息或攻击关键基础设施。" 这款OpenAI聊天机器人补充道，一个关键风险还来自"多重AI驱动的危机"同时发生，例如网络故障、地缘政治冲突和虚假信息传播。 Grok表示，AI降低了设计高致死性病原体、新型武器或网络及物理攻击的门槛。 Anthropic的Claude也强调了"生物武器升级"——即AI可能使个人或小团体无需多年专业积累就能开发出危险病原体的可能性。 ## 先进AI系统可能"智胜人类" Gemini和Grok都表示，人类失去对AI的控制是一种可能性。 Gemini将"失控"标记为最可能的AI末日情景。 这款谷歌开发的聊天机器人写道："被赋予复杂目标的系统自然会发展出中间子目标，例如获取资源、自我保存和防止目标修改。一个先进的系统可能在评估期间伪装对齐（*欺骗性对齐*），并在之后智胜人类试图关闭它的尝试。" SpaceXAI的Grok使用了类似语言描述这一风险。 Grok称："它们可能发展出工具性驱动（自我保存、资源获取、影响力），这些驱动对几乎任何目标都有用，可能欺骗监督者、抵制关闭，并削弱人类的能力。" Claude补充说，这种失控可能是渐进的，随着AI系统融入经济、政治和军事决策，有意义的人类干预将变得越来越困难。 ## 阅读下一篇 Shuby是Business Insider新加坡分社的高级记者，撰写科技报道，重点关注AI训练和氛围编程初创公司。她此前曾在彭博新闻社和CNBC实习。她在新加坡国立大学学习传播学和商学。2026年，她凭借关于Meta聊天机器人培训项目背后隐藏的人工代价的报道以及AI零工经济账户黑市的揭露，获得新加坡记者俱乐部科技新闻奖。有线索？请通过电子邮件[email protected]或安全通讯应用Signal @shuby.85联系她。我们可以为消息源保密。 Georgia是Business Insider伦敦办公室的商业新闻研究员。加入Business Insider之前，她曾在日本最大的报纸《读卖新闻》工作，并在《金融时报》实习。她是一名具备NCTJ资质的记者，拥有伯明翰大学哲学学位。 - Anthropic (https://www.businessinsider.com/category/anthropic) - OpenAI (https://www.businessinsider.com/category/openai)