前沿人工智能的民主治理，第二部分：赋能网络防御者

# 前沿AI的民主治理（第二部分）：赋能网络防御者 来源：https://openai.com/index/empowering-cyber-defenders/ AI正在改变网络安全的速度、规模和经济性。它可以帮助防御者发现和修复漏洞、检测入侵并应对攻击——但这些相同的能力也可能被恶意行为者所利用，并在AI系统超出其预期边界运作时带来新的风险。我们正处于一个防御者的时间窗口：这是一个有限的机会，将先进AI交到防御者手中，在先进网络攻击能力广泛普及之前加强防护。 今天，我们发布了一份赋能网络防御者的蓝图，建立在我们此前的网络安全行动计划和前沿安全蓝图（在新窗口中打开）(https://cdn.openai.com/pdf/25752ecb-0e5c-47f9-b9e4-c0f4d76f8d3d/a-blueprint-for-a-federal-framework.pdf)的基础之上。我们在自身模型的失准和安全事件方面的经验，凸显了整个行业需要更强有力的保障措施和问责机制。借鉴这些经验教训，该蓝图在三个领域向政府和行业提出了具体建议： - **加强先进AI的安全性与安全性防护：**明确前沿模型和智能体的安全责任，建立危险行为检测机制，并确保对各组织所控制运营的可靠关机控制。 - **面向情报时代实现网络安全现代化：**为防御者配备先进工具、培训和技术支持；解决长期存在的网络安全薄弱环节；投资于关键服务的安全保障和过时系统的替换。 - **建设具有韧性和适应能力的公共机构：**加强政府评估和独立技术评估，建立统一的事件报告要求，并改进协调一致的响应与恢复机制。 AI实验室有责任应对自身系统带来的风险，并帮助增强社会的防御能力。随着能力的不断提升，政府也必须具备保护公众所需的专业知识、资源和权力。我们鼓励政策制定者现在就采取行动——建立保障措施、从实践中吸取经验，并随着技术的发展不断完善相关要求。