refusal-bypass

本文首次系统研究了在单轮聊天中校准的加法激活引导如何迁移到使用工具的ReAct智能体。研究发现，尽管注入的方向在不同设定下几乎以全强度到达深层，但行为耦合在不同模型和上下文之间变化莫测，放大至2倍或衰减，带来即时安全担忧。

本文提出了一种大型语言模型非线性干预的通用公式，超越了线性表示假说，能够操控沿非线性流形编码的特征，并通过拒绝规避引导验证了该方法。