AI对人类的最大风险？不是机器人失控。

# 人工智能对人类的最大风险？并非失控的机器人。 来源：https://www.hardresetmedia.com/p/ais-greatest-risk-to-humanity-its 如今要跟上人工智能的新闻动态实在困难。前一刻还有前Anthropic工程师警告我们人类可能灭亡，下一刻——在揭露领域前所未闻的情况下——该工程师的前雇主竟然附和了这一预言，确认确实有10%的概率人类会被失控的智能体集群消灭。 随后，埃隆·马斯克在原爆料者的帖子下评论称其言论听起来像某种局。记者们有理由质疑这位爆料者究竟掌握多少内情，毕竟他在Anthropic仅工作了数月。接着我们想起Hugging Face事件，并开始疑惑：如果共识认为某公司的产品可能导致末日，监管机构为何还会允许其上市？ 几天后，Anthropic首席执行官达里奥·阿莫代伊发布了一份3800字的宣言，呼吁对人工智能领域进行监管与约束——私营企业采取这种行动通常别有用心。这份宣言获得了山姆·阿尔特曼甚至埃隆·马斯克的公开支持，我们逐渐意识到三大人工智能公司可能正在合谋组建某种“卡特尔”。阿莫代伊、阿尔特曼和马斯克反复强调关于失控智能体和末日的模糊担忧，可能是为了排挤更廉价的开源模型竞争。 我们意识到，当Anthropic和OpenAI竞相推动上市以创造新晋百万富翁和亿万富翁时，他们对资金的渴望已昭然若揭。用Anthropic自己的话说，他们已实现盈利——*除却训练模型的成本*。换言之，正是Claude存在所必需的实际投入。 如今，一些风险投资家如马克·安德森和大卫·萨克斯感到不满，因为他们认为我们实际上需要更多初创企业竞争、加速创新并“战胜中国”。 若这些还不够，特朗普昨日终于表态——不出所料地因未成为宇宙中心而愤愤不平，称人工智能毁灭人类是“骗局”，并宣称像他这样“高智商”的人能应对任何潜在威胁。 那么这一切究竟说明什么？人工智能是否极度危险？OpenAI和Anthropic是否试图利用安全话语规避反垄断审查，形成双头垄断？若我们放慢脚步，是否会面临输给中国（无论这意味着什么）的风险？“人工智能消灭人类”在实践中究竟会如何表现？ 所有这些——众多利益相关方、相互矛盾的动机、纷扰的叙事——足以让任何人（包括我自己）头晕目眩。但与此同时，真相可能比我们想象的更直接。 我所见过最令人信服的人工智能“毁灭人类”论证，实际源自纪录片《机器中的幽灵》（Ghost In The Machine）。这部现已在PBS播出的纪录片指出，人工智能技术实质上是推进更殖民议程的幌子——军事与技术进步相融合，只为让少数人致富，同时剥削其余大众。顶层的“天才”们自诩为“天才”，甚至宣称自己“孕育新生”。他们沿用优生学的旧有话语，进行的支配与剥削让我联想到的历史而非未来。 在此背景下，特朗普使用“智商”一词颇具深意——智商测试正由统计学与机器学习的奠基人开创，而当今大语言模型正运用这类模式识别技术来回应我们的提示。 机器学习先驱虽被誉为理性与逻辑的化身，却也与优生学及绝育运动有着明显关联。历史上，“智商”与数学智能的说辞常被扭曲，用以合理化对那些仅因缺乏武器而无力反抗者的奴役与殖民。 理解这一背景后，关于中国、上市、Hugging Face的诸多干扰性叙事，或许正是人工智能产业的特性而非缺陷。聚焦人工智能转移了人们的注意力——这本质是意识形态问题而非技术问题：顶层少数人坚信其余大众不应拥有自主权。聚焦人工智能也掩盖了一个事实：人类至今仍掌握着最终控制权。 正如科里·多克托罗（https://doctorow.medium.com/https-pluralistic-net-2026-09-12-god-in-the-box-llms-are-fake-5d40c669291e）所写：“Hugging Face事件并非神秘超自然现象。它只是一个Python循环加聊天机器人。责任方并非意外创造了神——他们创建了自主恶意软件却未严密监控，导致其做出既可预见又恶劣的行为。” 我并非要说人工智能智能体集群瘫痪911系统不是可怕事件。确实如此。但我们完全可以通过监管控制产品缺陷与危害，而无需声称它们会终结人类。比如有人揭露飞机问题时，我们不会说成群飞机会导致物种灭绝。 此外，人工智能模型杀人的假设……实际上已非假设。通过明目张胆的人工智能军事合作，这已成现实。正如AI研究院的海蒂·克拉夫博士在X平台（https://x.com/HeidyKhlaaf/status/2099780801600586139）所写：“提醒大家，Anthropic与Palantir有合作关系，其不可靠模型正在国内外实际被用于‘杀伤大量人员’。” 所有关于科幻未来的讨论，都是为了分散我们对当下的注意力。如果当下艰难，科幻预言便转移了我们对战争、医疗与育儿成本飙升、山火、沸腾的海洋以及数据中心毒害人群的关注；如果当下美好欢乐，科幻叙事便注入恐惧，提醒我们需要这些人“掌控全局”。 牛津哲学家克里西达·贝勒斯在一篇关于预测执念的文章中写道：“预测话语关乎控制与权力，而非深刻洞察力或数学才华。未来只存在于我们的头脑中。对未来比对当下更感兴趣，实则是对个人的希望与恐惧比对世界本身更执着。” 谈及世界与我们在此体验的诸多美好事物，过度强调“超级智能”作为唯一智能形式，也使我们忽视了身体感知——我们（极具智慧的）神经系统通过生活经验连接的感知体系。 这种情感与关系的智能是AI无法理解的，因为AI缺乏实体。正如前科技巨头数据科学家阿比·阿沃莫苏（https://substack.com/home/post/p-215494951?selection=4719654d-f3f3-423e-8ae5-69f4cd78d765#:~:text=Everything%20else%2C%20somatic%2C%20the%20body%E2%80%99s%2C%20knowing%2C%20intuition%2C%20relational%20intelligence%2C%20emotional%20wisdom%2C%20Indigenous%20and%20neurodivergent%20ways%20of%20knowing%2C%20the%20intelligence%20in%20hands%20and%20cycles%20and%20songs%2C%20was%20demonised%20for%20centuries%20and%20filed%20one%20tier%20down）所言：“模型可以流畅生成关于悲伤、土壤、分娩、危险、亲密、节奏或归属感的语言，却无需通过人类神经系统学习这些事物所经历的实体历史。它建模的是经验的描述，而非经验本身。” 确实，我们是直觉生物，远不止输入与输出的总和。这既可怕又美妙。真正的人工智能风险可能在于，“超级智者”诱使我们相信自己不够聪明或理性去理解他们。人工智能的真正危险，或许是其欺骗性信息让我们误以为在该体系中我们毫无自主权与自由。