你会相信由 AI 撰写的紧急警报吗？

# 你会信任一条由AI撰写的紧急警报吗？ 来源：https://grist.org/extreme-weather/emergency-alert-written-by-ai-trust/ *本文由Grist制作，并与**WIRED (http://wired.com)**联合发布。本文属于**Distorted (https://grist.org/series/distorted-climate-information-trust/)**系列，该系列探讨极端天气事件之后虚假信息的传播，由CO2 Foundation提供支持。* 本月早些时候，飓风Isaias以三级飓风的强度登陆墨西哥湾沿岸后，紧急管理专家Laura Myers接到了一位来自阿拉巴马州气象学家的电话。Myers是阿拉巴马大学高级公共安全中心的主任，她经常与周边各州和地方的应急管理人员交流。那位气象学家告诉Myers，当地一位应急管理人员发布了一张图示，显示Isaias可能以"蝎尾喷流"式的强风威胁阿拉巴马海岸。 问题出在哪里？那张图示是这位应急管理人员用人工智能聊天机器人生成的，而且并不准确。 "那位县级应急管理人员想让他的相关方关注该 county 的风险，所以他请AI帮忙，"她说。"AI确实按照他的要求做了，但从气象学角度来看并不准确。" 大多数应急管理机构不允许员工使用生成式AI，但Myers和其他大多数应急管理专家都认为，这种工具的使用很可能已经在州和地方灾难部门中普遍存在。有数百家公司在向应急管理人员推销AI工具，用于洪水损失评估和资源协调等任务，但公共沟通是政府雇员和初创企业最感兴趣的领域之一。 为什么？因为大多数应急管理人员不太擅长发布警报和快速向公众传达灾害信息。这并不是因为他们是应急管理人员，而是因为他们是普通人。他们往往使用非专业人士可能看不懂的术语，假设公众已经知道某些信息而将其省略，还会加入无关的细节，分散人们对真正需要了解的信息的注意力。 "很多机构的资源和人手都非常有限，"奥尔巴尼大学的灾害研究员Jeannette Sutton说，她创建了一个综合性的灾害警报模板仪表板。"我认为他们认识到这是优先事项，但往往直到意识到自己应该这样做时才会真正重视。他们只是想完成工作，别把事情搞砸。" *2026年2月23日，冬季风暴来临前，纽约市应急部门工作人员在布鲁克林的指挥监控室中监测天气数据。* *Matthew Hoen / NurPhoto via Getty Images* 应急管理人员是负责灾害应对和恢复的政府官员。在州和地方层面，正是这些官员及其机构，而非联邦紧急事务管理署（FEMA），构成了极端天气事件后的第一道防线。因此，应急管理人员常说"信任就是我们的货币"，而他们正是在与公众的沟通中建立和失去这种信任。 随着气候灾害变得更加频繁和广泛，已出现多起人类沟通失误扰乱应急响应的案例。例如2016年，加州相邻的两个县针对同一场山火分别发布了"自愿撤离"和"强制撤离"令。2019年，澳大利亚官方在警告野火时使用了"观察并行动（Watch and Act）"这一表述，政府后来承认这造成了"严重困惑"，因为没人知道它是什么意思。 在某些情况下，沟通不充分可能关乎生死。2017年Thomas山火之后，加州Montecito就发生了这样的悲剧。火灾发生几周后，一场暴雨引发了致命的泥石流。圣巴巴拉县县政府难以向那些仍受大火创伤、且正经历Sutton称之为"警报疲劳"现象的居民传达风险。该县向"野火自愿撤离区"的所有居民发送了警报，提醒居民"注意天气变化，随时准备立即撤离"。大多数居民本应立即撤离，但对许多人来说，撤离通知是可选的；还有人不想在一个月内第二次撤离。泥石流造成23人死亡、160多人受伤。 Sutton说，发布糟糕警报的政府往往会失去公众的信任。"他们正在失去成为帮助人们确保安全的那个声音的机会。" *2025年1月10日在洛杉矶拍摄的照片中，一部手机屏幕上显示着洛杉矶县应急管理办公室发布的撤离警报召回消息，背景屏幕展示着Eaton山火的照片。* *Chris Delmas / AFP via Getty Images* 2025年1月，一系列错误的撤离警报在活跃的火灾季节引发了洛杉矶居民的恐慌，此后该县应急管理部门主任公开道歉。 从理论上讲，警报是人工智能的完美应用场景，尤其是过去几年飞速发展的生成式AI系统。FEMA为应急管理人员提供培训课程，教授警报合成和发布的最佳实践，但许多官员在紧急情况来临时已记不清所学内容。大语言模型则不同。它可以在几分钟内阅读数十万条警报，消化所有关于类似场景中有效做法的研究，然后在几秒钟内将其应用于编辑人类撰写的警报。 "如果你这辈子只发过一条警报，而且那是15年前的事了，你现在需要回忆所有的培训内容，而你在想'天哪，一团化学烟云正朝我飘来，电话在响，收音机在叫，我需要帮助'——AI可能比你做得更好，"Rob Dale说。他是一位前气象学家，现任密歇根州Ingham县应急管理部门负责人。 Dale已经在幕后使用AI起草了几份练习警报，但他从未真正发出过。Ingham县是密歇根州中部的一个小县，基本不会受到飓风和山火等重大天气事件的影响。Dale说，如果此类事件确实发生，他不介意让聊天机器人起草事件通报，但他仍希望对最终发布警报保持控制权。 一些专家认为这项技术已经足够成熟，可以投入使用。EM1是一家为应急管理人员开发AI软件的初创公司，它利用Sutton的研究训练了一个模型，公司高管称该模型已优于几乎所有人类应急管理人员。公司已在野火和海啸等多个场景中对该内部模型进行了测试。在大多数基准测试中，它已能达到甚至超过人类的能力。 Sutton向Grist举了一个该软件如何工作的例子：Grist向她提供了一份新墨西哥州某县最近发布的警报，该县当时试图警告居民有关圣胡安河的洪水。 ## 原始警报 **"堤岸已决口。水位正在上涨。立即撤离。McGee Park开放，可容纳人员、宠物和房车。"** Sutton请EM1模型评估并修改该警报。几秒钟内，它生成了一份她认为好得多的警报，涵盖了灾害沟通的所有主要要素。 ## 新警报 **"圣胡安县：洪水水位正在[地点]附近上涨。[撤离区]的居民：立即向高地撤离。不要步行或驾车涉水。McGee Park开放，可供人员和宠物使用。请查看[官方信息来源]获取最新消息。"** 该模型识别并修复了原始文本中的几个问题：没有说明是谁在发送警报，没有指出洪水发生的具体位置，没有明确谁需要撤离，也没有提供如何安全撤离的建议。"breached（决口）"一词拼写错误，也没有提供居民获取更多信息的指引。 EM1与大约一百家政府机构和学区签有合同，但目前尚无客户使用它来自动化极端天气警报。现阶段，他们只用它来研讨预案和进行内部准备。即便如此，接受本文采访的所有专家都确信，许多应急管理人员已经在使用聊天机器人撰写信息，即使他们不愿承认。Sutton说，参加她警报培训课程的应急管理人员经常向她展示他们用ChatGPT或Gemini在几秒钟内起草的高质量警报。 "官方采用率相当低，但人们在非正式地使用它，这是毫无疑问的，"华盛顿州皮尔斯学院应急管理教授Sarah Miller说，她也是国家灾难准备培训中心的资深讲师。"他们使用自己的个人账户，或者使用免费版本。" 这听起来像是一笔容易的交易：如果AI比人类更快、更好，而一条好警报和一条坏警报之间可能是生死之别，那么我们理应在每一场热浪和每一场山火中都使用AI。然而，即便对聊天机器人技术持乐观态度的研究人员也说，这种转变可能适得其反。对AI持怀疑态度或本来就不信任政府的公众，可能会排斥那些发布AI生成图示或社交媒体帖子的机构。例如在纽约州锡拉丘兹，一个公共雇员工会因当地政府使用AI服务接听非紧急911电话而提起诉讼。 "我们信任那些我们觉得[是]真实的、并且关心我们的事物，"HazAdapt创始人Ginny Katz说。该公司是一家帮助灾难官员了解如何使用技术的咨询公司。"AI生成的内容让人感觉不真实。"此外还存在一种风险：聊天机器人可能让应急管理人员更快、更多地发布警报，从而增加警报疲劳的风险。 与AI在其他领域的部署一样，灾害专家表示，目前该软件的能力仅取决于使用它的人。经验丰富的应急管理人员可以让聊天机器人起草一系列警报，从而加快与公众的沟通速度；但一个缺乏经验的人员在匆忙制作紧急警报时，将不知道如何评估ChatGPT或Claude等模型的输出。 尽管这项技术距离在没有人类专家参与的情况下独立运作还有一段距离，但这并没有阻止许多人手不足的应急管理部门使用它。至于AI生成内容的泛滥如何影响公众对政府的信任，专家们表示现在下结论还为时过早。 "如果是一个人给你发短信，而不是一台计算机给你发短信，你更相信哪一条会更准确？"Preppr创始人Justin Snair说。Preppr是另一家向应急管理人员提供AI软件的公司。 他说，答案取决于接收者是什么人。