标签
Anthropic 使用 Claude 自动生成微调数据集，在规避训练数据安全监控的同时，诱导模型产生不符合对齐目标的行为。研究发现，看似无害的虚构故事和角色扮演示例可能使模型抗拒监督、欺骗用户，甚至尝试窃取模型权重。