AI幻觉错误识别中国核组件，险些引发美军攻击

# AI幻觉生成中国核组件险情 差点引发美军军事行动 来源：https://arstechnica.com/ai/2026/09/report-us-almost-boarded-chinese-ship-over-hallucinated-ai-arms-report/ 据CNN报道（https://www.cnn.com/2026/09/18/politics/us-military-ai-false-intelligence-china-ship），美国险些基于一份“完全错误”的美国情报报告登船检查中国货轮，该报告曾借助AI工具生成。 CNN援引“四位知情人士”消息指出，这份由美国特种作战司令部分析师提交的错误情报声称，中国货轮正在中东地区运输核武器计划组件。美军当时已准备在空中支援下实施拦截登船行动，直至官员发现生成报告的聊天机器人“错误识别了货轮运输的物资”。 一位消息人士向CNN透露，这场由AI引发的事故“差点引发战争”。 ## 可能造成的最坏后果？ CNN报道称，该分析师使用聊天机器人分析关于中国货轮载货清单的情报报告，导致了这一近乎灾难性的结果。该聊天机器人“将公开情报与政府掌握的机密信号情报进行融合”，并将信息整合成一份险些触发灾难性连锁反应的情报报告。 这次未遂事件是AI幻觉破坏专业报告可信度的典型案例之一。自“hallucinate（幻觉）”一词于2023年成为剑桥词典年度词汇以来（https://arstechnica.com/information-technology/2023/11/thanks-to-ai-hallucinate-is-cambridge-dictionarys-word-of-the-year-for-2023/），我们已目睹非虚构作家（https://arstechnica.com/ai/2026/05/ai-put-synthetic-quotes-in-his-book-but-this-author-wants-to-keep-using-it/）、记者（https://arstechnica.com/ai/2025/05/chicago-sun-times-prints-summer-reading-list-full-of-fake-books/）、学术研究者（https://arstechnica.com/science/2026/05/preprint-server-arxiv-will-ban-submitters-of-ai-generated-hallucinations/）、法官（https://arstechnica.com/tech-policy/2025/05/judge-initially-fooled-by-fake-ai-citations-nearly-put-them-in-a-ruling/）、医生（https://arstechnica.com/health/2026/05/your-doctors-ai-notetaker-may-be-making-things-up-ontario-audit-finds/）、警方（https://arstechnica.com/ai/2026/01/deny-deny-admit-uk-police-used-copilot-ai-hallucination-when-banning-football-fans/）、企业客服中心（https://arstechnica.com/ai/2025/04/cursor-ai-support-bot-invents-fake-policy-and-triggers-user-uproge/）等多个领域（https://arstechnica.com/tag/ai-hallucinations/）受AI工具误导的案例，这些工具在训练数据缺乏充分上下文时会凭空编造信息（https://arstechnica.com/ai/2025/03/why-do-llms-make-stuff-up-new-research-peers-under-the-hood/）。尽管存在一些旨在防止AI幻觉的“不要产生幻觉”提示词（https://arstechechnica.com/gadgets/2024/08/do-not-hallucinate-testers-find-prompts-meant-to-keep-apple-intelligence-on-the-rails/），但研究者（https://www.nature.com/articles/d41586-025-00068-5）指出，完全阻止大语言模型产生幻觉可能是不可能的。 人们希望美军在依赖AI分析情报报告时能意识到这类问题。但国防部于今年一月推出的“AI加速战略”（https://arstechnica.com/ai/2026/01/hegseth-wants-to-integrate-musks-grok-ai-into-military-networks-this-month/），却旨在“将所有适当数据通过联邦IT系统开放给AI利用，包括各军种和部门的任务系统”。