标签
对比神经元归因（CNA）识别出一组稀疏的MLP神经元，这些神经元能够区分有害提示和良性提示，从而在指令微调的大语言模型中实现有效的行为引导，同时不会降低输出质量。该方法在越狱基准测试上将拒绝率降低了50%以上，同时保持了流畅性。
研究者推出 HarDBench 基准，揭示 LLM 在协作写作中因恶意草稿被越狱的风险，并提出基于偏好优化的防御方法，在不影响协作实用性的前提下显著降低有害输出。