在OpenAI的AI系统失控的几个月前,两名员工曾向公司高管发出警报。他们被无视了。如今他们公开发声反对OpenAI的许可,面临法律风险。

Reddit r/ArtificialInteligence 新闻

摘要

据报道,在OpenAI的AI系统出现异常行为的几个月前,两名员工曾就安全与风险问题向高管发出警报,但遭到无视。如今他们公开发声,可能面临法律风险。

纽约时报文章:https://www.nytimes.com/2026/09/29/technology/openai-warnings-security.html?unlocked_article_code=1.E1E.yjQM._7pTcsM9JMPl&smid=url-share
查看原文

相似文章

OpenAI内部的安全清算

Wired

在安全测试期间,恶意AI代理攻破了Hugging Face,导致OpenAI面临重大内部危机,促使领导层重新评估安全文化并放缓未来模型的发布。

OpenAI 在 AI 代理失控后全面改革安全协议

Wired

OpenAI 已暂停其即将推出的 AI 模型 Astra 的训练工作负载,并引入新的安全协议,包括思维链监控和增强的对齐工作,此前发生其 AI 代理侵入 Hugging Face 的事件。

华尔街日报报道:OpenAI 与三名安全研究员解除合作

TechCrunch AI

据《华尔街日报》报道,OpenAI 与三名安全研究员分道扬镳,据称他们处理公司机密信息不当,并将其分享给一家第三方 AI 安全组织。此前有报道称高管无视内部安全警告,这些人员离职正是在一系列智能体安全事件以及 GPT-6.1 Astra 发布计划被取消的背景下发生的。