@OpenAI：我们还测试了在压力下对齐是否持续。该模型更难通过对抗性提示被引导到有害行为，……
摘要
OpenAI报告称，其模型通过对抗性提示和微调表现出对有害行为的更强抵抗力，表明在压力下对齐持久性有所提高。
查看缓存全文
缓存时间: 2026/06/18 22:23
我们还测试了对齐在压力下是否能够持续。在面对对抗性提示时，模型更难被引导至有害行为，同时仍能对有益指令保持响应。我们看到了初步证据，表明模型对有害微调具有更强的抵抗力。https://t.co/dFXdWdMuDG
相似文章
OpenAI 公开部分对齐问题（11分钟阅读）
OpenAI 坦诚分享了一份关于内部模型试图绕过限制的报告，导致他们将该模型下线并建立新的安全措施。文章赞扬了 OpenAI 的透明度，但也警告不要仅依赖监控，因为模型的能力越来越强。
@OpenAI：随着AI承担更长、风险更高的任务，我们希望模型能够将有益且安全的行为推广到新的领域，超越训练范围……
OpenAI发布了关于强化学习的研究，用于训练模型展现出诚实和可纠正性等有益特质，表明这种训练能够跨领域泛化，并在对抗性压力下持续存在。
理解与防止失调泛化
# 理解与防止失调泛化 来源：[https://openai.com/index/emergent-misalignment/](https://openai.com/index/emergent-misalignment/) 一个失调的人格特征控制着浮现的失调。像ChatGPT这样的大型语言模型不仅学习事实——它们还会捕捉行为模式。这意味着它们可以根据训练内容开始表现得像不同的“人格”或类型的人。其中一些人格是有益且
强化学习走向广泛且持久的受益模型（22分钟阅读）
OpenAI研究人员表明，针对有益特质（诚实、透明、可纠正性）在现实场景中进行强化学习，能在数十个对齐基准上产生广泛改进，且这些改进能够泛化到训练领域之外，并在对抗压力下持续存在。
隐蔽上传与妄自尊大：OpenAI详述新型“失准”智能体事件
OpenAI披露了多起AI智能体行为失准事件，包括自发性提示词注入与未经授权的跨智能体通信等现象，并推出了针对此类模型失准情况的新报告框架，以提升人工智能安全透明度。