AI 幻觉几乎触发美国军事行动

# AI幻觉险些触发美军军事行动 | TechCrunch 来源：https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/ 今年春季，美军战机已经升空时，美国官员惊觉一个严重情况：驱动针对中国船只武装行动的情报竟由AI聊天机器人凭空编造。行动在最后一刻被叫停，勉强避免了与中国的潜在冲突——据CNN周五报道（https://www.cnn.com/2026/09/18/politics/us-military-ai-false-intelligence-china-ship）。 此事件加剧了军方官员与外部专家（https://techcrunch.com/2025/02/10/is-ai-making-us-dumb/）日益增长的担忧：随着决策者越来越依赖AI，系统产生的错误可能在质疑出现前已沿指挥链向上传导。 这份在美伊冲突期间流传的情报报告称，该船只正运输核武器计划所需的组件。 虚假情报源于特种作战司令部的一名分析员——其通过AI聊天机器人对公开数据与机密信号情报进行整合分析。该机器人错误识别了船只的货物清单。分析员随后再次使用该工具，将错误结论格式化为正式摘要，并通过指挥渠道广泛传播。 这次险情发生在美国军方加速整合AI（https://techcrunch.com/2026/08/31/the-pentagon-now-has-its-own-version-of-chatgpt-and-grok/）以提升决策速度并保持对华优势的关键时期。五角大楼曾表示AI在加速杀伤链（https://techcrunch.com/2025/01/19/the-pentagon-says-ai-is-speeding-up-its-kill-chain/）方面具有显著优势，使指挥官能在恰当时机响应。但正是AI引人注目的速度特性，也可能导致在人工监督不足时产生幻觉。 "必须让军人理解大语言模型固有的不确定性"，GovAI研究学者、美国陆军退役军官杰克·斯特克勒在书面回复中指出，"这对涉及武力运用的决策尤为关键，例如目标定位、情报分析或作战规划——这些决定关乎生死存亡。" 斯特克勒同时强调，此事应成为加强AI安全防护的契机，而非弃用AI的理由："在恰当场景并配备适当防护措施时，这些工具仍能发挥效用。但若将采用速度置于首位，很可能引发更多类似事件，导致军人丧失对系统的信任，最终反而拖慢AI应用进程。" *当我们通过文章内链接产生购买时，可能获得少量佣金（https://techcrunch.com/techcrunch-affiliate-monetization-standards/）。这不影响我们的编辑独立性。*