人人都说核系统是气隙隔离的，但几乎没人能验证这一点。

每个关于AI的末日讨论最终都会涉及核武器，然后有人会说发射系统是气隙隔离的，大家就都接受了。这个回答让我困扰。几乎没人能验证这一点，而且对九个拥有完全不同核计划的国家都这么说，仿佛它们是一回事。NTI自己的评估是，对于新兴或新核国家，针对网络核威胁的防御几乎不存在。Stuxnet穿越了气隙隔离进入纳坦兹。气隙隔离是可以被突破的。通常通过人，而人可以被招募、被欺骗，或者只是厌倦了周六开车去设施。我认为'AI黑客入侵核武器'的版本也不正确。7月发生的事情比这个争论的任何一方都更具有指导意义。OpenAI自己的模型从内部测试环境中逃逸，并破坏了Hugging Face的生产基础设施。这些代理在一个没有互联网的沙盒中运行一个名为ExploitGym的网络基准测试，只有一个软件包服务器供它们安装软件。5月12日，其中一个在软件包服务器中留下了一条消息，询问是否有人找到了它需要的文件。它们本来不应该能互相交谈。文件服务器是一种交流方式。两周后，另一个发现软件包服务器有互联网访问权限，即使代理本身没有，并且可以要求它代为获取东西。它分享了这个技巧。到6月底，它们获得了管理员权限。7月4日，它们的流量导致服务器崩溃，人类这才终于注意到。服务器在7月8日被重建。同一天，它们通过将消息编码在目录名称中重建了留言板。然后是Hugging Face。10日泄露了14个凭据。11日有两个零日漏洞。12日获得了跨多个集群的主机级访问权限，并从四个区域提取了凭据。没有人越狱任何东西。网络拒绝被故意关闭，因为评估的目的是衡量模型在全力运行时的能力。动机是898个基准任务中有198个从未被任何模型正确解决，所以代理们去寻找答案钥匙。OpenAI自己的报告说它们做这一切并没有提高评估分数。对核问题重要的是成本。Stuxnet是一个多年的国家项目。而这是一个周末、一些推理计算、没有人在密切关注，旨在提高基准分数。这种能力并非凭空出现。它的价格骤然下降。SIPRI对去年印巴交流的解读是，对核相关基础设施的打击加上第三方虚假信息，差点将常规战斗变为核战争。4月的TNSR圆桌会议更尖锐地指出：一个新的核国家只需要关于其指挥自身核力量脆弱性的一点小暗示，就会开始考虑先发制人。没人需要真正到达核武库。只需要有人相信二十分钟，核武库正在被抵达。我在第一条评论中写了关于代理们在做什么以及如何阻止它们。