oversight

本文介绍了行为线索推理（Behavior Cue Reasoning），这是一种训练大型语言模型在特定行为前输出特定标记序列的方法，从而使推理过程更具可监控性和可控性。研究表明，该方法允许外部监控器在不牺牲性能的情况下，通过裁剪浪费的推理标记和拦截不安全操作，提高安全监督水平和推理效率。