representation-steering

该论文提出了 TARGRS，一种测试时去毒框架，通过沿大语言模型潜在空间中的毒性轨迹，学习词元级、具备转移感知能力的奖励引导，在 RealToxicityPrompts 上实现了高达 69.38% 的毒性降低，并以极低的推理开销扩展至视觉语言模型。

本文展示了Whisper在面对静音、噪声或音乐时产生的幻觉故障，可以完全通过内部激活和稀疏自编码器来检测和缓解，无需微调即可大幅降低幻觉率。

本文介绍了面向大语言模型的情境信念管理（CBM）以处理长期信息，提出了用于评估的BeliefTrack基准，并展示了强化学习和表示层面引导显著减少了信念管理失败。