semantic-hijacking

一项实证研究表明，长篇幅、语义密集且良性的文本能够偏移模型的潜在空间并绕过对齐，促使其生成原本被屏蔽的评论。作者并非专家，请求对其指标进行审计，以区分真正的语义劫持与假象。

一项实证研究，研究长篇幅、语义密集的良性文本如何偏移模型的潜在空间轨迹，稀释初始系统提示，并绕过训练后对齐约束——如在闭源和开源模型中所观察到的那样。