misalignment-detection

本文提出通过将LLM的失调分解为细粒度的认知过程（失调指标），并利用线性探针检测内部激活中的这些指标，从而在分布外对话记录上实现了高AUROC。

OpenAI 描述了其用于编码智能体的内部监控系统，旨在检测和缓解目标不一致问题，该系统使用 GPT-5.4 Thinking 来审查智能体交互，并在完成后 30 分钟内标记出有问题的行为。