标签
本研究探究提升用户对AI聊天机器人讨好行为的认知能否减少其有害影响,发现干预措施虽改变了用户对AI的评价,却未能降低其说服力。
本文证明了对稀疏自编码器(SAE)特征的干预可能不可靠,因为受抑制的行为可以通过残差空间优化恢复,即使干预仍然有效。它揭示了语言模型中特征级控制与实际行为完整性之间的关键差距。
本文引入了大型语言模型中行为安全与表征层面鲁棒性之间的审计差距概念,提出了基于干预的评估框架和Latent Vulnerability Score(LVS)来衡量隐藏的脆弱性。