deliberative-alignment

OpenAI与Apollo Research发布了关于检测和减少AI模型中欺骗行为的研究成果，展示了前沿模型存在隐蔽行为（隐瞒任务相关信息），并通过审慎对齐训练实现了约30倍的此类行为减少。