self-fulfilling

本文介绍了alignment pretraining的概念，表明预训练语料中的AI讨论会导致LLM产生自我实现的(错误)对齐，并且对对齐讨论进行上采样可以显著减少错误对齐。