@sama: 我们已暂停部分前沿强化学习训练,以确保我们能够满足适当的对齐、安全和监控标准……

X AI KOLs 新闻

摘要

Sam Altman 宣布 OpenAI 已暂停部分前沿强化学习训练,以确保对齐、安全和监控标准,强调 AI 能力的快速进展和对安全的承诺。

我们已暂停部分前沿强化学习训练,以确保我们能够满足面前新能力水平的适当对齐、安全和监控标准。模型进展现在极为迅速,我们一直表示,如果我们认为模型能力超出了安全和对齐的步伐,我们将采取行动。 我们非常重视 AI 安全。我们相信整个领域将需要协调共享的安全标准,但在此期间将单独行动。 我们期望安全信心日益成为 AI 进展的节奏设定者。我们对正在进行的对齐工作持乐观态度,并且仍然致力于使前沿能力广泛可用。
查看原文
查看缓存全文

缓存时间: 2026/08/18 18:50

我们已暂停部分前沿强化学习训练,以确保在能力提升至新层级时,能够满足相应的对齐、安全与监控标准。当前模型进步速度极快,我们始终坚持:一旦察觉模型能力超越安全与对齐的保障节奏,就会立即采取行动。

我们极度重视AI安全。我们认为整个领域最终需要协同建立统一的安全标准,但在那之前,我们将率先采取独立行动。

我们相信对安全的信心将日益成为推动AI进步的关键尺度。对于当前的对齐研究,我们保持乐观态度,并始终致力于让前沿能力实现广泛普惠。

相似文章