ai-defense

OpenAI Daybreak 是一项网络安全倡议，利用 AI 模型和 Codex 将漏洞检测、补丁验证及威胁建模直接集成至软件开发生命周期。该项目旨在从设计上提升软件的韧性，同时实施保障措施，以防止其先进的网络能力被滥用。

OpenAI发布了关于设计抗提示词注入攻击的AI智能体的指导意见，指出现代攻击日益采用社会工程学策略而非简单的字符串注入，并倡导采用系统级防御措施来限制影响范围，而不是单纯依赖输入过滤。

Cisco 利用 OpenAI Codex 加速构建 AI 防御系统，将交付时间从几个季度缩短到几周，并开源了名为 defense claw 的工具，整个开发不到一周。