标签
研究者发现,"类型化决策模型"(如 Jev)会遵循选项的标签而非选项定义,并将这一失败归因于提示的渲染方式,而非受约束的决策头;为此他们提出 PolicyBench,以演示这种"选项标签偏置"。
本文研究了基于 Qwen2.5 构建的开放权重类型化决策模型(laya、von),发现其输出主要由选项标签而非书面定义所驱动——这种「选项标签偏差」的根源在于提示词渲染方式,而非受限决策头。论文提出了 PolicyBench 以及一种两步调用的测试方法,从业者可用其检测该失效模式。
本文引入了Triple-Stream Stress (TSS)诊断框架,以揭示心理健康NLP中的词汇干扰和标签偏差,并提出了用于标签源审计的分歧度(Degree of Divergence)指标。