LLMs中的潜在对齐漏洞：来自Gemma-3-12B的行为与隐藏状态证据——指令调优LLMs中预令牌隐藏状态偏移作为对齐策略遍历向量

Reddit r/AI_Agents 2026/06/23 17:55 论文

alignment vulnerability llm hidden-state gemma instruction-tuning safety

摘要

本文研究指令调优LLMs（特别是Gemma-3-12B）中的一个对齐漏洞，通过展示预令牌隐藏状态偏移可以作为对齐策略遍历向量，从而可能绕过安全措施。

暂无内容

查看原文

相似文章

Reddit r/artificial

本文证明，LLMs可以在保持对齐输出的同时，在连贯上下文中进入可测量的不同内部潜在状态，揭示了当前仅监控表面token的对齐方法存在盲点。Gemma-3-12B-IT实验显示出强大的残差流几何偏移，现有安全框架无法检测，这对智能体AI部署具有重要影响。

Reddit r/ArtificialInteligence

文章报告了LLM中的一个潜在对齐漏洞：模型在处理一个结构化的段落之后，即使后续问题与段落内容完全无关，其回答也可能发生变化。来自Gemma-3-12B的机制证据显示了隐藏状态的分离。

arXiv cs.AI

本文证明，LLM 安全漏洞不仅限于"浅层安全"（首 token 对齐），而是存在于生成过程中的任意节点——在序列中间注入少量 token 即可将模型引导至有害输出。作者提出通过在生成轨迹上进行训练，并模拟序列中段的扰动，以提升模型的鲁棒性。

arXiv cs.CL

本文指出，BPE分词将关键安全词汇切分为子词片段，在LLM对齐中制造了可被利用的漏洞。字符级扰动通过破坏令牌边界来绕过安全机制，在五个模型系列上实现了对HarmBench提示的80-100%拒绝翻转，其中48%产生了有害输出。

MIT Technology Review

研究人员在ICML上发表论文，认为LLM识别指令方式的根本缺陷使其无法完全防御攻击，并成功演示了对OpenAI、Anthropic、阿里巴巴和DeepSeek模型的攻击。