全自主无人机首次在实战中击杀人类士兵

# 全自主无人机首次击杀人类士兵 来源：https://www.newscientist.com/article/2529849-fully-autonomous-drones-have-killed-human-soldiers-for-the-first-time/ 无人机在乌克兰战场上已是常见景象，但它们通常由人类飞行员操控 Frank Herrmann/Getty Images 无需人类监督的全自主无人机首次在战场上击杀了士兵。据乌克兰国防工业一位高级别官员透露，这标志着战争中的一个分水岭时刻。 此次一次性测试在乌克兰战争前线动用了10架由AI控制的"终结者"无人机。俄军士兵因此丧生。 "我们试过了，"无人机制造商亚历山大·科汉诺夫斯基表示，他向*新科学家*杂志提供了这项技术，并在乌克兰大使馆举办的新闻发布会上发表了讲话。"这是一次测试。我们没有（大规模）投入使用。" 该测试发生在两年前，涉及四旋翼无人机，它们被编程为飞往前线，在约10分钟内覆盖3至5公里，然后进入"终结者模式"，由AI模型搜索并拦截目标。 "我们只需发射它，就知道一切都会被消灭——在该特定区域内发现的一切都会被消灭，"科汉诺夫斯基说。"与无人机完全没有连接，你看不到视频，什么都没有……它看到的一切都会被消灭。" 由于无法得知自动无人机看到了什么或瞄准了什么，测试后人工驾驶的无人机被派往该区域手动检查结果。受害者包括"几名士兵和一辆卡车"，科汉诺夫斯基说。虽然没有自动无人机攻击这些目标的记录，但结论是这些无人机击杀了他们。 科汉诺夫斯基称，他本人并未亲临测试现场，测试是由一个未具名的军事单位在巴赫穆特和恰西夫亚尔附近执行的，是乌克兰反攻行动的一部分。乌克兰国防部未就此次测试或当前关于使用全自主武器的法律立场回应提问。 AI的使用在全球军队中很常见，用于从海量情报数据中选择目标，并实现武器某些功能的自动化，但人类始终在某个环节参与决策。科汉诺夫斯基的表态是目前最确凿的证据，表明战场上确实发生了完全由AI造成的死亡。 据参加使馆新闻发布会的国防公司消息人士透露，乌克兰政府目前禁止在拦截目标的最后阶段使用AI，尽管在此之前许多设备已在流程的多个部分使用AI。科汉诺夫斯基表示，政府了解AI日益增长的能力，并正在与国防公司讨论是否应放宽相关规则。 2023年的报道称，配备人工智能的乌克兰攻击无人机正在无人协助下发现并攻击目标——但攻击对象是坦克等车辆，而非步兵。当时并未确认有人员伤亡。 尽管国际上没有正式禁止可在无人干预情况下杀人的自主武器，但联合国秘书长安东尼奥·古特雷斯已呼吁设立此类禁令，去年他表示"我们的世界没有致命自主武器系统的容身之地"。 联合国表示，有人担心此类武器可能因剥夺战争中的人类判断而违反国际人道主义法和人权法。此外，自主系统存在犯错风险，可能攻击己方士兵或装备，或误伤平民。 大多数军队正在开发至少能实现攻击目标流程部分自动化的设备。美国拥有能够积累和分析大量不同数据、在战场上选择目标并随后由无人机打击的软件，但理论上需要人类确认。还有说法称，美国也在开发所谓的"守门员"飞行无人机和"鞭击"海军无人机，它们能够自行寻找并摧毁目标。 联合国2021年的一份报告甚至暗示，土耳其公司生产的Kargu-2四旋翼无人机可能在更早一年已被用于自主攻击人类。该报告未提供消息来源的具体细节，也未说明是否有人受伤或死亡，但暗示利比亚民族团结政府曾使用这些无人机攻击撤退的哈夫塔尔部队。 乌克兰第3军第21独立无人系统团的高级官员丹尼洛·波洛日乌赫诺少校——他并不知晓也未参与此次测试——告诉*新科学家*，他的士兵使用半自主控制系统，但始终有人类参与其中。 "这些无人机系统和平台能够自动获取和跟踪目标，并在接近的最后几米自主引导，这有助于简化操作员的工作。然而，我们并不使用完全自主的无人机系统，即那些无需操作员参与就能独立选择和攻击目标的系统，"波洛日乌赫诺说。"乌克兰遵守国际人道主义法，并认真履行维护所有战斗人员权利的责任。同时，在决策过程中极为谨慎，以防止平民伤亡。" 牛津大学的马里亚罗萨里亚·塔德奥表示，用AI杀人剥夺了士兵的尊严，免除了攻击者的责任，必须被禁止。"这不仅有问题，简直是骇人听闻，"她说。"我们想成为一个在无人参与的情况下杀死他人、允许政府杀死他人的社会吗？" 英国埃克塞特大学的安东尼·金表示，尽管技术上可以实现无需人类参与的全自主攻击，但这可能并不像许多人认为的那样具有决定性作用。 "如果这能带来任何军事优势，政府当然有可能允许这样做，"他说。"然而，事实仍然是，在乌克兰战争中俄乌双方使用的数百万架无人机中，几乎没有（或根本没有）是（完全）自主的。" "所以，不仅从伦理上讲，让人类参与决策是正确的，而且在目前看来，这样做在军事上也更有效，"金说。 科汉诺夫斯基表示，由于乌克兰的规定，"终结者"项目在测试后未有进展。他现在是无人机制造商Aero Center的首席执行官，该公司当时尚未成立，因此未参与测试。这是一家乌克兰公司，正在研发自主拦截无人机，旨在锁定来袭的俄罗斯"沙希德"自杀式无人机，并在它们到达充满平民或重要基础设施的城镇和城市之前将其摧毁。 该公司的ALITA系统将由16个发射台组成，配备64架无人机。该系统将于10月准备就绪，能够监控来袭无人机，自动发射并以每小时450公里的速度飞向目标，摧毁从小型无人机到直升机的一切目标。 但乌克兰现行规定将禁止全自主操作，并要求在拦截的最后阶段由人类确认目标。即使在这种模式下，整个64架无人机电池组也仅需两名操作员，这意味着将大幅减少人员需求。 "每一步都可以是手动或自动的。我们不允许在最后阶段自动完成，"科汉诺夫斯基说，他认为规则应该改变。"我很希望如此，"他说。 主题：