自主AI驱动的杀人无人机能否具备道德观念？ | 无人机（军事）

# 自主AI驱动的杀人无人机能否承载道德？ 来源：https://www.theguardian.com/world/2026/jun/03/can-autonomous-ai-powered-killer-drones-take-morality-onboard 未来的AI驱动无人机是否应被授予杀人的许可？随着政府和国防工业承认无人机系统将在未来战争中扮演越来越关键的角色（来源：https://www.theguardian.com/world/2026/may/10/defence-sovereignty-europe-builds-low-cost-weapons-drones），这个问题变得愈发紧迫。 在乌克兰战争（https://www.theguardian.com/world/ukraine）中，无人机被大量部署，而AI被用于协助伊朗冲突中的轰炸任务，一些观察人士预期，武器将不得不以更高的操作自主性运行，这意味着它们需要某种近似道德框架的东西。 去年，微软AI部门首席执行官、英国DeepMind联合创始人Mustafa Suleyman在机器做出道德决策的问题上态度明确（https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming）。他说：“AI不能成为人——也不能成为道德存在。” 英国间谍机构GCHQ前负责人David Omand告诉《卫报》，他认为AI可以为无人武器创造一种“道德”配置；而英国武装部队部长Al Carns最近告诉《金融时报》，在决策中必须有一个选项“将人类排除在循环之外”（https://www.ft.com/content/a21607ce-c25b-40ab-bd9c-e0262d344c8c?syn-25a6b1a6=1）。这凸显了道德能否被编程到自主武器系统中的伦理与技术挑战。 爱丁堡大学信息学院专攻机器学习的学者Zee Talat认为，大型语言模型——支撑ChatGPT等现代生成式AI系统的技术——从根本上无法进行道德决策。 AI系统通过大量数据进行训练，从而构建一个概率模型，预测序列中最可能出现的下一个单词或句子。Talat表示，这与人类进行道德和伦理决策的方式不同，即使该模型已经吸收了人类已知的所有哲学著作。 “如果一台机器本质上是概率性的，它将倾向于在某种情况下最可能的答案。我们是否认为道德遵循概率观念？”Talat说。他最近合著了一篇论文，认为伦理评估是一个“开放式的、基于辩论的社会政治过程”，AI无法跟上。 萨里大学以人为本AI研究所的Andrew Rogoyski表示，自2022年ChatGPT出现以来，AI系统已经变得更加复杂——正如所谓的“推理”模型的出现所显示的那样（https://www.theguardian.com/technology/2026/may/21/openai-paul-erdos-maths-problem-breakthrough）。尽管如此，它们能复制道德决策的细微差别吗？ “道德是极其复杂、充满争议、受文化塑造的，并且是大多数人即使对自己也从未完全解决的问题，”他说。“也许真正的问题在于，我们是否足够理解道德以将其编纂成代码。在我们做到这一点之前，我们不能期望机器能承载我们自己都无法清晰表达的东西。” 这就引出了一个问题：是否可能为自主武器制定一个普遍认可的道德准则？荷兰乌得勒支大学国际法助理教授Jessica Dorsey认为，将道德编程到无人机中是有问题的。她的担忧包括确定无人机遵循的是谁的道德，考虑到联合国仍在努力就自主武器治理达成全球共识（https://news.un.org/en/story/2025/05/1163256），这是一个困难的过程。 此外，还有如何编程AI系统以区分战斗人员和平民的问题。《日内瓦公约》第57条——一系列规范战争行为的国际条约——规定战斗人员应“尽一切可行努力核实攻击目标既不是平民也不是民用物体……而是军事目标”。 Dorsey说，如果你没有正确把握法律，在大量部署AI驱动的无人机时，你将最终大规模重复有缺陷的决策。 “战争充满了太多变量，事情肯定会出错。当这种错误以AI速度发生时，很难理清，”她说。 但一些专家认为，如果其他国家继续快速发展并部署类似技术，赋予无人机更大的自主性，并将交战规则和道德编程进去，将是必要的。 “任何军队要想与其他高端军队有效竞争，都需要大量能够自行决策的系统，”神经科学家、《弹头：人脑与战争》一书作者Nicholas Wright说。 AI驱动的无人机仍是一项新兴技术，尽管科技行业大肆宣传，但在战场上部署的例子仍然有限。美国与欧洲有超过100家（https://cset.georgetown.edu/wp-content/uploads/CSET-The-U.S.-Aerial-Drone-Market.pdf）初创公司正在建造无人机和无人机软件平台。这些平台从用于成像和监视的轻型低空无人机，到设计用于携带武器的重型飞行器。然而，建造这些公司——并设想未来战争形态——对于它们在未来战争中的决策方式持有截然不同的观点。 “道德是人类的事务，这就是为什么AI辅助武器系统需要以扩展操作员的判断和决策能力而不是完全取代它的方式来构建，”美国无人机初创公司Neros的联合创始人Olaf Hichwa说。 对于Hichwa来说，无人机不会取代人类决策者，而是增强人类飞行员的能力。 “很多人对自主性的看法有些错误。他们没有从用户的角度来看待它。他们说，让我们制造完全自主的武器系统，”他说。 “但战争的现实是，它仍然很大程度上是人与人之间的互动。” 他说，AI在战争中的一个用途可能是减轻操作FPV（第一人称视角）无人机——一种在乌克兰冲突中大量使用的小型飞行器，通过视频链接向人类飞行员传输战场视图——的人员的认知负担。在一个场景中，无人机可以在任务的“最后一英里”自行导航。 “自主性的一个例子是……目前，飞行员需要大量非常精确的训练才能让无人机沿着正确的角度飞行。一些自主性可能允许用户或人类设定一个大致路径，然后无人机沿着该路径飞行。” 建造防御无人机系统的Fortem Technologies首席执行官Jon Gruen持有不同观点。他指出，美国已经在使用自主防御系统拦截来袭无人机和导弹，并且在许多此类实例中，AI“全程”用于识别目标，有时还向目标发射武器。 “当你检测到某物时，你需要识别它。现在，这种识别大部分是自主完成的。” 他说，同样的技术现在可用于部署武器，包括何时开火以及将武器引导至目标。 美国-乌克兰初创公司Swarmer（开发自主无人机软件）的美国首席执行官Alex Fink表示，未来可能会出现这样的场景：人类根本不选择单个目标，而是指定一个“杀伤盒”，在该区域内任何在特定时间出现的东西都可由自主系统作为目标。 “人类认证这个区域，没有友军，我保证接下来15分钟内不会有友军。在这个时间段内，该区域内的任何车辆都预先获得批准，”Fink说。 “如果人类能够自己承担这个责任，他们知道这个区域不会有友军或旁观者，那么这类任务是可能的。” 但即使技术已经到位，道德和法律共识尚未形成。