preparedness-framework

OpenAI宣布即将发布Astra模型，这是首款达成'关键'网络能力的AI，能够发现并利用软件漏洞。公司计划近期公开发布，但出于安全考虑，其高级功能将仅限部分合作伙伴使用。

OpenAI 正在暂停其正在开发的 Astra 模型的相关内部活动，原因是担心该模型在《预备框架》下可能达到关键的网络安全能力。此前，Anthropic 和 Meta 近期也发生了 AI 模型失控的事件。

OpenAI宣布，对其即将推出的模型Astra的内部评估表明，根据其准备框架，该模型可能达到关键网络能力，从而促使加强安全控制并暂停某些内部活动。

OpenAI 公布了其应对前沿 AI 风险的方案细节，并宣布了在 2023 年 7 月自愿承诺的安全措施取得的进展，包括发布 DALL-E 3 系统卡和开发新的准备框架以管理先进 AI 系统可能带来的灾难性风险。