AI生成的虚假情报险些导致美国登船中国船只。现在，美国正提议与中国建立AI热线

Reddit r/artificial 新闻
ai-hallucination military-intelligence us-china-relations generative-ai ai-safety geopolitics risk-management

摘要

AI生成的虚假情报险些引发美国针对中国船只的军事行动，可能升级为战争，从而促使美中之间提议建立AI热线。

https://preview.redd.it/z4wc4h0zn4rh1.png?width=773&format=png&auto=webp&s=3c0c579ce45d78a09953bd603c3d4ef0d38d6911 上周五，CNN报道称，由于AI提供的虚假情报，美国和中国可能已陷入战争：‘这份情报报告于今年春季在美伊战争期间在美国军方内部流传，立即引发警报：一艘中国船只在中东地区运输核武器计划组件。美军迅速行动，计划拦截该船只……全副武装的美军成员准备登船。直到计划行动前，官员们深入调查这份由特种作战司令部分析师整理的报告，才发现它是在人工智能（AI）的帮助下生成的……据一位消息人士称，该报告‘完全虚假’。但消息人士也说，它‘几乎引发了一场战争’。任何针对中国船只的美军行动都可能引发两国间的武装冲突。美军已全面加速将生成式AI整合到其作战中。今日，新闻报道显示特朗普将提议与中国建立AI热线。或许部分由于这一事件？我所谓的‘代理电话’问题不仅困扰企业、使用在线搜索的民众和科研人员，也困扰军方。AI提供的不良数据在未经过适当核查的情况下被整合到决策中。我们正在部署工具，但未给予人员适当的培训以正确评估AI输出。’ CNN报道关于虚假情报 – Aljazeera关于热线
查看原文

相似文章

AI 幻觉几乎触发美国军事行动

TechCrunch AI

一个AI聊天机器人产生了虚假情报，差点触发针对中国船只的美国军事行动，这突显了AI在关键决策中出错的担忧。