CSIS 敦促美国将人工智能驱动的监控与快速补丁结合，并在前沿模型发布前后进行系统性审查。🛡️⚙️

#网络安全 #AI新闻 #人工智能 #技术

https://t.co/sEuWI2A0CQ

让人工智能为网络防御者服务：增强美国网络安全的战略

来源：https://www.csis.org/analysis/making-ai-work-cyber-defenders-strategy-strengthening-us-cybersecurity

执行摘要

时间紧迫。具备显著网络能力的前沿人工智能模型已经出现，留给解决美国网络防御弱点的时间所剩无几。难以精确估计战略竞争对手——尤其是中国——将多快开发出类似模型，但大多数评估表明，中国要么已经拥有这些能力（https://www.nytimes.com/2026/06/25/technology/zai-china-artificial-intelligence-models.html），要么将在不到一年的时间内开发出来（https://www.economist.com/china/2026/06/21/china-is-having-another-ai-moment）。本报告探讨了新型前沿模型对网络安全的影响，并概述了必须迅速采取关键防御措施的两个主要领域。

本报告的核心论点是：通过充分的协调和行动，人工智能可以为防御者提供多种新工具，包括以机器速度检测和评估漏洞与攻击、进行修复和恢复响应，以及增强系统安全性的能力，从而转变美国的网络防御。与其他可能增强网络安全的科技进步一样，人工智能不会自动增强防御者的能力。只有在美国——包括各级政府、私营部门以及重要的非营利组织——迅速、有意识地采取措施实现这些工具的广泛、安全部署时，这种进步才会发生。

前沿模型已展现出识别网络基础设施（https://www.nsf.gov/focus-areas/cyberinfrastructure）中先前未知漏洞的能力。当这些能力与可信访问计划、快速优先级排序和有效的修复流程相结合时，它们为防御者提供了强大的工具。相反，如果防御者继续主要依赖基于人类速度的传统工作流程，或未能充分整合人工智能工具，那么恶意行为者将能够比合法用户开发和部署补丁更快地发现和利用漏洞。防御者的核心任务，以及政策制定者面临的相应挑战，是确保防御者能够无缝地、充分地利用人工智能驱动的能力来发现、确定优先级并缓解漏洞。

本报告敦促迅速开展跨部门协作，修补这些先进前沿模型揭示的关键漏洞，随后部署人工智能驱动的防御措施。这些防御措施应保持持续警惕，监控新的攻击或漏洞，然后迅速采取行动，在对手利用这些风险之前进行修复。

前沿模型的快速发展要求每个企业软件用户都在短期内——理想情况下是未来几个月内——加强其网络防御。行政部门应与私营部门紧密合作，识别、确定优先级并修补漏洞，从而巩固国家网络防御。行政部门还应发挥信息交换所的作用，在这个新时代优先安排工作并分享网络安全指南，正如2026年6月白宫行政命令（https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/）所开始阐述的那样。国会应要求或至少强力激励对美国政府和民用网络进行全面诊断，并确保持续改进。还应拨款支持特别脆弱的领域，如开源软件社区、中小企业以及包括地方公用事业在内的关键基础设施所有者和运营者。

长期来看，美国必须构建和支持更多的政府和非政府机构与活动，以确保人工智能安全地发展，并以最优方式实施，以增强美国网络安全态势以及更广泛的美国利益。

公众还必须理解人工智能的众多潜在益处，反之，人工智能社区也必须理解人工智能可能无意中伤害用户的多种方式。正如公众反对建设数据中心以增强美国计算能力所证明的那样，这种对话必须在公共领域进行，而不仅仅在科技公司行政部门之间。

持续监控并快速修复基础设施

在短期内，恶意行为者很可能拥有能够识别先前未知漏洞的前沿模型。每个组织的领导者应将解决此类漏洞、必要时进行修补、然后部署人工智能驱动的网络防御措施作为高度优先事项。这些防御措施能够警惕地监控攻击或漏洞，然后迅速修复这些问题，防止攻击者从中受益。时间紧迫（https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/），技术挑战（https://www.nsa.gov/Press-Room/News-Highlights/Article/Article/4523810/five-eyes-cyber-security-agencies-statement/）也确实存在。

在国家标准与技术研究院网络安全框架2.0（https://nvlpubs.nist.gov/nistpubs/CSWP/NIST.CSWP.29.pdf）的基础上，美国应将网络安全态势转向政府、公司和地方运营商警惕地监控攻击和漏洞，并在发现后迅速修复。为实现这一转变，人工智能必须深度嵌入集体网络防御中。在可能的情况下，应使用先进前沿模型识别漏洞，然后由技术专家（通常使用这些模型）开发和部署补丁以关闭漏洞。通用补丁应开源，而某些漏洞则需要定制补丁。

理想情况下，行政部门和国会都将激励这些努力。大型科技公司无论如何都有重大的自身利益和资源来升级自身的网络防御及用户防御。理想情况下，由行政部门推动的私营公司联盟应帮助保护网络安全生态系统中脆弱的环节，包括自由开源软件社区、中小企业以及用于例如市政供水系统、电力公用事业和其他关键基础设施的传统网络和工业控制系统。这种支持应包括提供部分抵御人工智能驱动攻击所需的工具，并按要求提供资金和技术专长。理想情况下，国会也应拨款支持重要非营利实体的诊断和修补工作。

联邦政府应继续积极与熟悉最先进前沿模型能力（目前包括 Mythos 和 GPT-5.5）的私营公司进行交流，围绕联邦政府软件采购设定基线，并安排后续技术工作以实现两个目的：(1) 随着网络攻击能力和威胁的成熟而提高底线；(2) 为需要更大网络安全投资的部门和机构提供建议。NIST 目前正在扩展其工作，制定定制控制覆盖（https://csrc.nist.gov/projects/cosais）以建立人工智能系统安全基线，并在此过程中与一些公司合作。

政府应与私营部门合作设计一个跟踪网络入侵的系统，该系统有助于识别相似攻击并分享指导方针以削弱它们，同时确定修补工作的优先级，并识别威胁行为者（无论是国家还是犯罪分子）。国土安全部下属的网络安全与基础设施安全局应领导设计此类系统的努力，然后将更常规的数据收集和整合工作移交给一个新的联邦资助研发中心，该中心将提供连续性和技术专长。新中心应与商务部的 NIST 合作，在确保与国际网络事件报告标准一致的同时，设定系统要求。

评估前沿模型以增强安全性和防御性网络安全

本报告强调了在新型前沿人工智能模型发布前和发布后进行审查的重要性，特别是要了解它们在这种新威胁环境下对网络安全的影响。该分析支持政府呼吁对新型前沿模型进行30天发布前审查，正如2026年6月2日行政命令（https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/）“促进先进人工智能创新与安全”所概述的。发布前审查应侧重于危险能力，例如与进攻性网络攻击或生物/核武器开发相关的能力。审查还应考虑危险的失调行为，例如模型操纵评估者或通过复制自身到其他服务器等方式寻求保存自身存在。

发布后审查应是一个更非正式的过程，涉及更广泛的利益相关者。这些利益相关者应包括美国前沿人工智能模型开发者和行政部门机构，以及增强或全新的努力，包括以下内容：(1) 为学者（尤其是具备计算机科学和人工智能专长的学者）提供额外政府资助；(2) 为非政府组织的技术和具备技术素养的工作提供慈善资助；(3) 提供额外政府资助以增强政府分析能力，包括创建一个新组织（例如 FFRDC），其任务是通过访问专有模型细节（如训练数据库、算法和模型权重）进行分析。

重要的是，审查过程应随着评估和基准测试技术的改进而演变，并尽可能对公司和公众透明。透明度将鼓励更广泛的技术专家和用户社群分享见解和担忧。透明的政府审查过程还将使模型开发者的审查更具可预测性，同时建立信任和信心。

人工智能将继续为网络安全展现卓越能力——这一点似乎很明确。通过所有主要部门的迅速有效努力，美国可以利用这些能力进行防御，而不仅仅是观察它们在网络攻击中的影响。

引言

先进的前沿模型已经具备识别软件中先前未知漏洞的非凡能力，并且这些模型在过去几年中能力不断增强（https://red.anthropic.com/2026/mythos-preview/）。它们在计算机相关任务（如编码和执行网络攻击）中的表现提升尤为迅速。最近，前沿模型展示出的能力似乎从根本上改变了进攻性网络行动的性质。最值得注意的是，模型可以执行以前只有熟练的人类操作员才能处理的任务、功能和操作，并且以显著更大的规模、范围和速度完成这些操作。

2026年春季，几家领先的美国前沿人工智能开发者发布了模型，突显了这一关键转变。Anthropic 的 Mythos（https://red.anthropic.com/2026/mythos-preview/）展示了识别和利用长期存在且必不可少的软件中先前未知缺陷的非凡能力。该模型后来据报道被证明能够（https://cybersecuritynews.com/anthropics-mythos-ai-model/?utm_source=substack&utm_medium=email）在“数小时内”攻破美国政府最敏感的机密系统。与此同时，OpenAI 的 GPT-5.5-Cyber（https://openai.com/index/gpt-5-5-with-trusted-access-for-cyber/）能够发现类似的漏洞并利用它们进行攻击。

最初，美国领先的人工智能公司判断，这些新模型带来的风险值得仅在可信的行业和美国政府利益相关者中进行预览。预览期的理由是为了使网络防御升级工作能够应对攻击者使用这些或类似模型带来的威胁，并帮助展示这些模型对网络防御者的益处。领先的模型开发者和使用这些模型的公司也已向更广泛的公众发布了产品，包括通用模型、专注于网络安全的模型以及针对人工智能驱动网络防御的工具，以促进整个生态系统中更大的网络防御能力。

为应对当前形势并为更具网络韧性的未来奠定基础，本报告概述了两个主要领域的积极措施建议：

1. 利用人工智能驱动工具增强美国网络防御。识别并解决漏洞，将美国网络防御态势转变为更主动、更警惕的姿态，持续监控攻击或漏洞，并迅速实施修复。 行政部门应担任此项工作的信息交换所，确定漏洞优先级，分享指南和最佳实践，并提供技术和财政资源以强化特别脆弱的网络能力。
2. 系统化前沿模型治理。确保对先进前沿模型进行适当的发布前和发布后审查。 发布后审查不仅受益于私营部门和行政部门的专业知识，还将受益于学术界和非政府组织广泛视角的高质量技术工作，以及加强现有政府项目和可能的新政府项目。

快速变化一直是人工智能能力的标志，特别是人工智能驱动的网络进攻和防御能力。不变的一个因素是，为新兴技术制定正式和非正式的政策框架以塑造变革使其造福于共同利益，仍然极其困难。这些困难源于多种因素，包括技术本身的快速非线性进步、人工智能在至少某些主题领域使用所产生的不可预测和未经研究的影响，以及开发预测、衡量或减轻人工智能负面影响方法的纯粹技术难度。由于技术专家数量相对较少（几乎全部在私营部门），这些努力进一步受到阻碍。

人工智能驱动的网络时代：网络攻击程度和种类的变化

预计人工智能将大幅增加网络威胁的程度和严重性，使美国本已脆弱的网络防御状况急剧恶化（https://www.economist.com/china/2026/06/21/china-is-having-another-ai-moment）。成功网络攻击程度的变化可能非常显著。有效攻击的频率和持续性预计将通过两条途径增加：

1. 由技术较差