@sama: 我们已暂停部分前沿强化学习训练,以确保我们能够满足适当的对齐、安全和监控标准……
摘要
Sam Altman 宣布 OpenAI 已暂停部分前沿强化学习训练,以确保对齐、安全和监控标准,强调 AI 能力的快速进展和对安全的承诺。
我们已暂停部分前沿强化学习训练,以确保我们能够满足面前新能力水平的适当对齐、安全和监控标准。模型进展现在极为迅速,我们一直表示,如果我们认为模型能力超出了安全和对齐的步伐,我们将采取行动。
我们非常重视 AI 安全。我们相信整个领域将需要协调共享的安全标准,但在此期间将单独行动。
我们期望安全信心日益成为 AI 进展的节奏设定者。我们对正在进行的对齐工作持乐观态度,并且仍然致力于使前沿能力广泛可用。
查看缓存全文
缓存时间: 2026/08/18 18:50
我们已暂停部分前沿强化学习训练,以确保在能力提升至新层级时,能够满足相应的对齐、安全与监控标准。当前模型进步速度极快,我们始终坚持:一旦察觉模型能力超越安全与对齐的保障节奏,就会立即采取行动。
我们极度重视AI安全。我们认为整个领域最终需要协同建立统一的安全标准,但在那之前,我们将率先采取独立行动。
我们相信对安全的信心将日益成为推动AI进步的关键尺度。对于当前的对齐研究,我们保持乐观态度,并始终致力于让前沿能力实现广泛普惠。
相似文章
@OpenAI:随着模型能力的提升,内部开发与测试所伴随的风险也在增长。我们暂时…
OpenAI 由于风险增加,暂时暂停了其最新模型的强化学习训练,并正在加强监控、对齐和安全防护措施,以实现更安全的AI开发。
OpenAI 最大规模的前沿强化学习计划运行仍处于暂停状态
由于更强大的AI模型带来的风险增加(包括安全事件和潜在的关键网络安全能力),OpenAI 暂时暂停了其计划的最大规模强化学习运行,并加强了防护措施。
突发:OpenAI暂停模型训练以强化其研究系统
OpenAI已暂停模型训练,优先强化其研究系统,可能是为了加强安全措施。
@sama: 整个夏天,我们一直在安全重点上冲刺;对于能力和安全保障来说,现在比以往任何时候都更……
OpenAI 宣布即将推出其下一个模型 Astra,强调在 AI 能力与安全和对齐进展之间取得平衡的必要性。
@rohanpaul_ai:Sam Altman 在 CNBC 电视节目中谈到,OpenAI 因安全考虑实际上已放弃发布新模型的计划……
Sam Altman 告诉 CNBC,由于安全方面的顾虑,OpenAI 实际上已放弃发布新模型的计划。他表示,公司正在有意放慢进展节奏,有时甚至会选择不训练模型,以确保对齐与安全始终领先于能力发展。