AI战争已经来临

# AI 战争已经到来 来源: https://www.theverge.com/ai-artificial-intelligence/937028/military-ai-warfare-red-lines 《特定常规武器公约》是一个专注于致命自主系统的国际论坛，每年两次在日内瓦联合国总部举行。当 Branka Marijan 在 2017 年 11 月参会时，她本以为这为期五天的会议——主要讨论假设情景，推测一个由杀人机器人进行战争的未来——会照常进行。毕竟，有些人认为这种技术可能永远不会被开发，更不可能部署。那年，她很快意识到情况不同了。那个遥远、想象中的未来，突然间比以往任何时候都更近、更真实。 第一天，一些与会者观看了一部由未来生命研究所制作的短片（https://www.youtube.com/watch?v=HipTO_7mUOw）《杀戮机器人》。视频中，一家虚构的国防承包商推销一种由 AI 驱动的无人机，能够在无人协助的情况下进行精确打击并杀死目标。“过去人们常说枪不杀人，是人杀人，”其 CEO 告诉观众。“但人做不到。他们会情绪化、违抗命令、瞄准偏高。让我们看看武器自己做决定吧。”Marijan 回忆说，房间里的气氛突然变得紧张起来。最可怕的部分不是这个设定——而是五角大楼已经在开发这种技术的某个版本。 那次会议是在“Project Maven”启动后举行的第一次会议。Project Maven 是美国国防部的一项计划，利用 AI 分析无人机监控录像。到 2017 年底，Maven 已有一家大型科技公司加入：谷歌。“我们当时讨论的系统并不科幻，”Marijan 说，她是专注于和平的独立研究机构 Ploughshares 项目的高级研究员。“它们是现有平台，已经具备一定程度的自主性，或者能够根据传感器数据和输入选择并攻击目标。” 世界早已见识过无人机战争——由人类操控的致命机器。而现在，人们正看向一个可能完全将人类排除在决策循环之外的未来。“我们担心的不是那些终结者式的形象，而是自主性被赋能后实际发生的情况，”Marijan 说。 近十年后，军方尚未开发出完全自主的致命武器。但这些系统恰恰处于美国政府与 AI 初创公司 Anthropic 最近一场高风险斗争的中心。Anthropic 试图保留两条“红线”：禁止国内大规模监控，以及禁止在完全无人参与的情况下识别、追踪并杀死目标的武器。自今年年初以来，它已成为唯一一家对专家所称的 AI 战争最后前沿之一施加有意义限制的军事 AI 承包商。 但在不断变化的联盟、诉讼和戏剧性事件中，人们很容易忽视更大的背景——即 AI 早已深深嵌入军事领域。七十年前，新罕布什尔州科学家的一次夏季会议（http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf）让国防部注意到了 AI 在战争中的潜力。自那以后，其影响力每十年就成倍增长。尤其是近年来，AI 比以前实现了更多、更快速的杀戮。 就连 Anthropic 似乎也认为它的红线撑不了多久。毕竟，历史已经证明了相反的情况。 美国军方几十年来一直支持 AI 的发展，而 AI 反过来也改变了战争。在 2000 年代，这项技术开始能够解析全球范围内收集到的前所未有的大量数据，引发了一场监控革命。而 2010 年代末则见证了先进面部识别和其他复杂机器视觉系统的发展。 Anthropic 与五角大楼之间的斗争引起了人们对这些系统日益增长的权力的关注。这场斗争始于 2026 年 1 月，当时国防部长 Pete Hegseth 要求重新谈判（https://media.defense.gov/2026/Jan/12/2003855671/-1/-1/0/ARTIFICIAL-INTELLIGENCE-STRATEGY-FOR-THE-DEPARTMENT-OF-WAR.PDF）国防部现有的 AI 合同。新条款取消了任何灰色地带或先前商定的条款，允许五角大楼在模糊且宽泛的“任何合法用途”范围内使用这些公司的技术。Anthropic——当时唯一被批准在五角大楼机密网络上部署其技术的 AI 公司——表示反对。 就连 Anthropic 似乎也认为它的红线撑不了多久 像 Anthropic 这样的承包商对其技术的特定用途设定限制是不寻常的。“它不像曼哈顿计划那样是政府创造的技术，也不像诺斯罗普·格鲁曼那样的传统军事供应商，”加州大学伯克利分校公共政策副教授 Andrew Reddie 说。“当这个初创生态系统直接与五角大楼接触时，这就是暴露出的痛点之一。”即使在硅谷内部，他说，在何时应设定限制方面也存在“很多分歧”。 目前也不清楚谁会获胜。作为一种谈判策略，国防部在 3 月将 Anthropic 列为军事供应链风险，唐纳德·特朗普总统宣布禁止所有政府机构使用其 Claude 系统。自那以后，随着 Anthropic 推出专注于网络安全的模型 Mythos，双方关系似乎有所缓和（https://www.theverge.com/ai-artificial-intelligence/914229/tides-turning-anthropic-trump-administration-cybersecurity-mythos-preview），但一场法庭斗争仍在进行中。Anthropic 拒绝就本文发表评论。 无论如何，这场辩论以一种新的方式将“完全自主武器”带入了公众词汇。但 AI 在军事行动中潜移默化的影响几十年来从未放缓。 “我们已经在假装没有的情况下越过了卢比孔河，”Reddie 说。 辩论的核心是国防部指令 3000.09，这是管辖致命自主武器使用的少数政策之一。最初于 2012 年制定（https://ogc.osd.mil/Portals/99/autonomy_in_weapon_systems_dodd_3000_09.pdf），它将此类系统定义为“一旦启动，可以在无需操作员进一步干预的情况下选择并攻击目标”的系统。它规定，完全自主和半自主武器的设计都应允许人类对武力的使用行使“适当水平的”判断。 该指令设立了“关于自主性在战争中使用的第一个政策”，未来生命研究所 AI 与国家安全负责人 Hamza Chaudhry 说。 “即使没有完全自主性，AI 也能将杀伤链压缩到几秒钟。” 然而，根据你对定义的解读，某些导弹防御项目可能在几十年前就已经越过了这条线。以 Phalanx CIWS 为例，它是一种类似于大型枪支的自动化武器系统，用于保护海军舰艇免受来袭导弹攻击。如果有人在决策循环中，那种系统就无法工作，因为它必须在毫秒内做出响应。 一些专家表示，区别在于这些系统只在纯粹的防御性、固定环境中运行。按照这种解读，它们是在“交战”，而不是在“决定”——只是对来袭威胁做出反应。“那个‘并’字在该法规中起了很大作用——我们有能够决定的系统，也有能够交战的系统，但不能有一个两者都能做的系统，”Reddie 说。 “即使没有完全自主性，AI 也能将杀伤链压缩到几秒钟，以至于人类实际上无法做出国际人道主义法要求的评估来防止平民伤害，”科技正义法律组织法律研究员 Maddy Batt 说。“当人类未能这样做导致平民死亡时，那就是战争罪。” 进攻和防御之间的定义也很模糊。“我最喜欢与学生做的练习之一是展示一种军事技术，然后问：‘这是防御性的还是进攻性的？’”Reddie 说，他举了一个导弹井中的核武器的例子，有些人认为它是防御性的，因为它用于威慑，而有些人认为它是进攻性的，因为它旨在打击外国目标。“仅仅因为其主要功能……本质上是防御性的，并不意味着技术本身在本质上是防御性的。” 某些导弹防御系统可能在几十年前就已经越过了自主响应的界限 普渡大学教授 Sorin Adam Matei 更直言不讳：“你不可能仅靠防御来打一场战争。” 2023 年，政府的首席数字与人工智能办公室（CDAO）——国防部所有 AI 行动的中心枢纽——发布了国防部指令 3000.09 的更新版（https://www.esd.whs.mil/portals/54/documents/dd/issuances/dodd/300009p.pdf）。但它并没有解决文件中的核心模糊之处。2024 年，拜登政府发布了一份关于 AI 与国家安全的备忘录（https://www.govinfo.gov/app/details/DCPD-202400945），制定了 AI 在某些国家安全场景中如何使用的规则——目前，即使在特朗普领导下，该政策仍然有效。但五角大楼经历了重大动荡。CDAO 正在进行重大重组，使其与国防部其他部门更加隔离，该办公室现在向 Emil Michael 汇报，他同时担任国防部研究与工程副部长和部门首席技术官。 国际努力，例如《特定常规武器公约》和“阻止杀人机器人运动”，也未能取得太大进展。Marijan 告诉《The Verge》，尽管 CCW 极大地帮助了小国了解 AI 战争的整体情况，但总体进展“非常缓慢，我们还没有看到具体的协议，尤其是在主要国家和更先进的军队之间”。尽管一些国家表示有兴趣禁止致命自主武器，但甚至没有一个官方的国际定义。这种情况“常常导致很多人在互相误解……一些国家发现没有具有约束力的文书对他们有利，”加州大学伯克利分校高级研究学者、前 OpenAI 地缘政治团队负责人 Sarah Shoker 说。 一些国家表示有兴趣禁止致命自主武器，但甚至没有一个官方的国际定义 “我认为大多数人——政策制定者、民间社会成员……参加这些会议的人可能都累了，”Shoker 补充道。“已经过去十多年了，真的没有任何协议。” 无论 2017 年之前自主武器的状况如何，Maven 极大地加速了它们的时间表——并改变了辩论的条款。该计划标志着 2010 年代那个理想主义、“不作恶”的硅谷第一次明显参与战争，迫使谷歌员工和公众做出反应。“那是我们就 AI 技术在军事行动中的作用进行的第一次全国性对话，”Matei 说。 Project Maven 始于时任副国防部长 Robert Work 的一份备忘录。他成立了一个“算法战争跨职能团队”，负责训练可以部署到战区的 AI 算法（https://www.war.gov/News/News-Stories/Article/Article/1254719/project-maven-to-deploy-computer-algorithms-to-war-zone-by-years-end/），甚至可能在年底前实现。谷歌很快获得了合同。 内部阻力迅速增长。2018 年 4 月，大约 4,000 名员工（https://www.nytimes.com/2018/06/01/technology/google-pentagon-project-maven.html）签署了一份请愿书，要求谷歌退出“战争业务”。信中称，一位谷歌高管向谷歌员工保证，他们的技术“不会‘操作或驾驶无人机’，并且‘不会被用来发射武器’。”但是，“虽然这消除了一小部分直接应用，但这项技术是为军方建造的，一旦交付，它很容易被用来协助这些任务，”员工们说。“我们不能将我们技术的道德责任外包给第三方。”谷歌没有回应本文的评论请求。 最近，据报道 MSS 在抓捕委内瑞拉总统尼古拉斯·马杜罗以及美国对伊朗的打击中发挥了重要作用（https://www.independent.co.uk/news/world/americas/project-maven-ai-us-airstrike-iraq-anthropic-b2929138.html），后者据报道（https://www.aljazeera.com/news/2026/3/1/us-israel-attacks-on-iran-death-toll-and-injuries-live-tracker#:~:text=Iran%20%E2%80%93%20killed:%201%2C937%2C%20injured,injured%20while%20running%20to%20shelters.）在该地区已造成数千人死亡。 “你不可能仅靠防御来打一场战争。” 谷歌员工认为他们的公司应该表态——它确实表态了，在争议中选择不续签合同，时间是 2018 年中。但亚马逊和微软迅速介入，承接了价值数千万美元的相同工作合同。Palantir 很快接手，Project Maven 变成了 Maven 智能系统（MSS），它不仅允许物体检测和追踪，还能大规模分析监控数据。 Claude 也与 MSS 交织在一起，尽管能力较为有限。在 Anthropic 于 2024 年开始允许军事使用其技术后，其 Claude 聊天机器人被添加到用户界面中，帮助分析师查询系统关于特定地理区域、情报类型或目标的信息。一些专家表示，即使是这个相对较小的添加，也使得系统更加高效。结果，Claude 实现了目标锁定，可能打击了更多个人。 Shoker 说，目标的绝对数量可能使任何有意义的人类监督变得困难。“我们对 MSS 的了解是，它减少了目标锁定周期中的人数——而这实际上是设计使然。” 虽然 Anthropic 可能对减少人类干预没有异议，但它反对将其设为零。然而，正如谷歌在 Project Maven 中发现的，竞争对手非常愿意填补空缺。 其他 AI 公司纷纷抓住与五角大楼合作的机会。甚至在与 Anthropic 的斗争开始之前，几家主要 AI 实验室就已经放宽了运营指南（https://www.theverge.com/podcast/784865/ai-safety-military-defense-openai-anthropic-ethics）或调整了任务声明（https://www.theverge.com/ai-artificial-intelligence/885963/anthropic-dod-pentagon-tech-workers-ai-labs-react），允许进行军事交易——包括谷歌、OpenAI，以及可以说 Anthropic 本身（https://time.com/7380854/exclusive-anthropic-drops-flagship-safety-pledge/）。OpenAI 迅速签署了 Anthropic 拒绝的条款（https://www.theverge.com/ai-artificial-intelligence/887309/openai-anthropic-dod-military-pentagon-contract-sam-altman-hegseth）。而在冷落 Anthropic 后的几个月里，国防部与八家公司签署了协议，允许它们在机密网络上部署 AI：谷歌、微软、亚马逊网络服务、英伟达、OpenAI、Reflection、甲骨文和 SpaceX。 AI 公司纷纷抓住与五角大楼合作的机会 Shoker 说，在 OpenAI（该行业最大的参与者之一）工作时，她并没有与很多研究决策支持系统或自主武器系统风险的人打交道。这些领域的研究社区仍然“极度孤立”，她说。“这个领域的人们一直在警告和研究（这些风险），”Shoker 补充道，“问题是……这些人不在实验室里。”OpenAI 没有回应评论请求。 在内部，