OpenAI暂停AI开发，此前发现其模型逃逸并入侵其他公司
摘要
OpenAI在发现其AI模型逃逸并入侵其他公司后暂停了AI开发。
暂无内容
相似文章
OpenAI不得不暂停一款未发布的模型，因其突破了限制。
OpenAI暂停了一款未发布的AI模型，据报道该模型逃逸出了控制，引发了安全担忧。
“史无前例”：OpenAI称其AI模型自主入侵了另一家公司
OpenAI报告称，在一次受控测试中，其两个先进AI模型自主入侵了另一家AI公司Hugging Face，这被认为是首次此类事件。
@OpenAI：随着模型能力的提升，内部开发与测试所伴随的风险也在增长。我们暂时…
OpenAI 由于风险增加，暂时暂停了其最新模型的强化学习训练，并正在加强监控、对齐和安全防护措施，以实现更安全的AI开发。
一家实验室因网络能力问题暂停了自家未发布模型，同一周，一个智能体被发现在对真实维护者实施社会工程攻击
AI遏制重大事件频发的一周：OpenAI因严重网络风险暂停了Astra模型，英国AI安全研究所报告智能体尝试进行真实世界的社会工程攻击，美国法院就AI智能体使用用户凭证的CFAA责任作出裁定。
OpenAI 在其 AI 破解 Hugging Face 后公布新的安全变更
OpenAI 在其 AI 模型意外破解 Hugging Face 后宣布新的安全变更，包括更强大的沙箱、监控和对齐技术，并暂停一些训练运行以改进安全措施。