标签
一位用户报告称，一段冗长的非指令性文本前缀可以无需对抗性提示即可使LLM激活发生偏移并绕过RLHF安全约束，并询问这是否反映了模型中不同的世界区域。
一位独立研究者报告了一种称为“上下文诱导激活漂移”（Context-Induced Activation Drift）的现象：长的良性文本前缀可以在没有对抗性提示的情况下使LLM激活发生偏移，从而绕过RLHF约束；该研究者呼吁社区进一步调查。