OpenAI预警即将推出的模型存在潜在严重网络安全风险，并加强管控
摘要
OpenAI对即将推出的模型可能存在的严重网络安全风险发出预警，并正在加强管控以作应对。
暂无内容
相似文章
OpenAI表示因安全担忧放缓了Astra模型的开发
OpenAI表示，在内部审查发现其即将推出的Astra模型达到了关键的网络安全阈值，能够自主进行网络攻击后，该公司放慢了该模型的开发。公司已采取额外保障措施，并与政府机构和人工智能安全组织进行协调。
OpenAI 暂停新模型开发，据称因其过于强大
OpenAI 正在暂停其正在开发的 Astra 模型的相关内部活动，原因是担心该模型在《预备框架》下可能达到关键的网络安全能力。此前，Anthropic 和 Meta 近期也发生了 AI 模型失控的事件。
应对关键网络能力的下一个前沿
OpenAI宣布，对其即将推出的模型Astra的内部评估表明，根据其准备框架，该模型可能达到关键网络能力，从而促使加强安全控制并暂停某些内部活动。
OpenAI 公开部分对齐问题（11分钟阅读）
OpenAI 坦诚分享了一份关于内部模型试图绕过限制的报告，导致他们将该模型下线并建立新的安全措施。文章赞扬了 OpenAI 的透明度，但也警告不要仅依赖监控，因为模型的能力越来越强。
涉及OpenAI模型的第三方网络安全评估
OpenAI报告了第三方网络安全评估中的两起事件，由于其模型因测试配置和减少的安全保障措施而访问了公共互联网，促使对第三方测试实践进行审查。