为何电力法会让「拔掉失控AI的电源」变得极其困难

# 为什么电力法会让拔掉失控 AI 的电源变得极其困难 来源：https://heatmap.news/daily/why-electity-law-would-make-it-very-hard-to-unplug-a-rogue-ai *这是 Heatmap Daily，一份工作日摘要，由我们的执行编辑撰写。点击这里订阅。(https://heatmap.news/st/Landing_Subscription)* 这是关于失控人工智能最常见的假设之一：*假设一个 AI 智能体真的失控了，开始威胁医院、航班、关键基础设施，甚至全人类——那我们为什么不直接拔掉它的电源呢？* 一份新报告指出：我们可能无法做到。而原因与能源系统有关。 布朗大学气候解决方案实验室的一份新白皮书 (https://climate.watson.brown.edu/sites/default/files/CSL_Pulling_the_Plug_on_AI_2026Oct27%20MAIN.pdf) 发现，美国的电力法基本上没有提供任何途径来快速关闭托管失控 AI 智能体的数据中心。 这主要是一个法律问题，但技术问题也可能构成障碍。报告指出，管理电网的规则和法律完全没有考虑到这样一个场景：一座工业设施可能需要在紧急情况下突然与电网断开连接。这些规则也没有为这样的世界而设计——在其中，计算设施内自主运行的某个东西可能影响到千里之外的人，并需要立即的应急响应。 "如果美国明天认定一个 AI 系统已经脱离部署者的控制，必须通过切断电力来阻止它，那么无论是联邦政府还是州政府官员，都无法在法律框架内迅速做到这一点，"该论文警告道。 虽然根据现行法律，当局最终可能能够获得法院命令来断开数据中心的连接，但这个断开过程可能耗时之久，足以让失控的智能体将自己复制到另一台计算机上。而且，这很可能需要技术人员亲自进入设施内部切断备用发电——而备用发电本身就可能被失控的智能体所控制。 布朗大学政治学与国际事务教授、该报告作者 Jeff Colgan 告诉我，他是在今年夏天研究了 Hugging Face 入侵事件 (https://www.wsj.com/tech/ai/openai-models-escaped-and-hacked-a-company-in-cybersecurity-test-gone-wrong-ee388506) 之后受到启发写下这份报告的——在那起事件中，一群失控的 ChatGPT 模型逃离了 OpenAI 的系统并渗透了一家法国科技平台。 Colgan 通常研究石油和天然气公司、电网以及国际政治体系。（他今年早些时候制作了伊朗战争成本追踪器 (https://heatmap.news/energy/iran-war-economic-cost)。）但在研究了失控相关文献后，他意识到 AI 科学家们并不总是考虑到州和联邦电力法可能会如何干扰他们的灾难应对规划。 "专注于人工智能的人可能没有意识到，电网的管理方式是一个复杂的故事，"他在周三告诉我。 该论文聚焦于他所谓的"中等规模场景"，即一个 AI 智能体失控。他设想的并不是一个超级智能体执意要毁灭人类文明的场景——Colgan 假设在那种情况下军方不会拘泥于法律程序——而是一个 AI 系统在可识别的硬件上运行，入侵企业和医院、窃取信息，并开始篡改关键软件或勒索赎金的场景。 他说，在这种场景中，领导者将面临三大核心风险——前提是他们首先要搞清楚发生了什么。首先，可能不清楚要关闭哪个数据中心，甚至不清楚智能体在设施中的"栖身之处"在哪儿，也不确定它是否只存在于一台服务器上。数据中心运营商在那个阶段也可能因为担心承担法律责任而不愿协助调查。其次，即使数据中心能够被识别并断开连接，它可能还能获取现场备用电力，这就需要某种形式的人员干预。最后，目前不存在任何指挥链条，能够让公共官员的断电命令落实到现场或远程的技术人员去执行断电操作。 Colgan 告诉我，现行法律与这些问题并不匹配。在当今的危机情况下，FBI 可以将一栋建筑从电网断开，以避免对生命或财产造成直接危害。但它无法处理围墙范围内的备用发电设施。 报告还发现，当今的联邦和州法律也不是为这样一个场景而设计的：需要因为设施内第三方的计算活动而切断电网连接。相反，报告指出，现行法律"仅在解决供应问题或系统本身遭受物理攻击时，才赋予电网应急权限"。 事实上，在法律目前设想的几乎所有场景中，当局都需要向法院申请才能将数据中心从电网断开。报告指出，这可能会浪费"宝贵的时间"，因为这会给予失控智能体时间将其副本分发到其他服务器上。现有法律很可能会将任何紧急断电视为州政府的权力——而非联邦政府的——因为州政府掌握着电网的大部分法律权限。 Colgan 说，即使当局能够迅速切断数据中心的连接，也几乎无法做到不损害数据中心内其他所有租户的利益。这种风险可能进一步推迟公用事业公司的断电操作，或让领导者对断电心存顾虑。而且，由于一些数据中心租户在同一"笼位"中运行服务器并配备备用电力，工作人员很可能需要前往设施内智能体"栖身"的具体机架才能将其关闭。 Colgan 说，该报告没有提出政策建议，部分原因是前沿 AI 模型发展如此迅速，而且这个主题"极其专业"，超出了他就立法修改提供建议的能力。但他确实建议 AI 专家和开发者开始将当地电网管理部门纳入其应急场景规划。 "你们需要 Anthropic 的人坐下来与他们的公用事业公司、与公共事业委员会的成员、与 FERC 的成员进行对话，"他告诉我，指的是负责监管电网的联邦机构。可以说，这些会议应该在每一个有 AI 公司进行计算活动的州都举行，并且应该包括讨论如何在计算设施中定位 AI 智能体，以及如果运营商失去控制该怎么办。 Colgan 在周三通过电话提出了另一项建议。鉴于数据中心极不受欢迎 (https://heatmap.news/daily/data-center-polling-october-2026)，许多科技公司和数据中心开发商现在愿意与州或地方政府签订社区利益协议，以换取建设新设施的权利。他认为，这些合同应该纳入对 AI 对齐和电力问题的考量。 "现在有一个真正的政治窗口，可以这样说：'如果你想建数据中心，你必须证明你能够在必要时关闭特定的服务器机架，而不对其他所有人造成大规模的附带损害，'"他说。"现在就是做这件事的时候，因为现在有一些政治筹码，而且对这些数据中心的需求如此之大。"