标签
本文提出一个因果模型，用于理解和对抗AI模型中的蓄意低效表现，使用如参考嫁接和上下文嫁接等干预措施来恢复开放权重模型的能力。
本文研究将关于监督微调（SFT）的经验跨对齐训练、模型生物和玩具模型进行迁移，表明像基于行为原因的训练和混合模型内数据等技术可以改善泛化性和能力保持。
本文评估了四种针对语言模型的谎言检测方法，覆盖了提示谎言和训练好的模型实体，发现基于激活和logprob的检测器在训练好的模型实体上性能急剧下降，而思维链评判器仍然表现强劲。本文引入了新的测试平台以及“你撒谎了吗？”（DYL）后续探针方法，并发布了数据集和模型实体。