论文页面 - 当行为安全性评估失效时：表征层面的视角

来源：https://huggingface.co/papers/2606.08044

摘要

大型语言模型的行为安全性评估无法提供对模型内部鲁棒性的完整洞察，这一点已在基于干预的测试所揭示的输出可观测性与潜在空间脆弱性之间的审计差距中得到证实。

大型语言模型（Large Language Model）(https://huggingface.co/papers?q=Large%20Language%20Model)（LLM）的安全性常通过行为层面进行评估，这仅能提供有限的内部鲁棒性证据，因为这些评估针对的是输出结果，而非干预下表征层面的脆弱性。我们将这种差异形式化为审计差距（audit gap）(https://huggingface.co/papers?q=audit%20gap)：即行为安全性（behavioral safety）(https://huggingface.co/papers?q=behavioral%20safety)与干预下鲁棒性之间的差异。为研究这一差距，我们构建了分离模型（dissociated models）(https://huggingface.co/papers?q=dissociated%20models)，这些模型在保持安全的外在行为的同时，在潜在空间（latent space）(https://huggingface.co/papers?q=latent%20space)中仍然存在脆弱性。我们引入了一种基于干预的评估框架，通过在参数空间和潜在空间（latent space）(https://huggingface.co/papers?q=latent%20space)中进行软干预（soft interventions）(https://huggingface.co/papers?q=soft%20interventions)来测试模型鲁棒性，包括有害微调（harmful fine-tuning）(https://huggingface.co/papers?q=harmful%20fine-tuning)和逐层潜在扰动（layer-wise latent perturbations）(https://huggingface.co/papers?q=layer-wise%20latent%20perturbations)。为了将评估形式化，我们提出了潜在脆弱性分数（Latent Vulnerability Score）(https://huggingface.co/papers?q=Latent%20Vulnerability%20Score)（LVS (https://huggingface.co/papers?q=LVS)），用于衡量有害行为被有界潜在扰动诱发的难易程度。利用这一评估框架，我们证明了行为安全性（behavioral safety）(https://huggingface.co/papers?q=behavioral%20safety)指标不足以衡量多个安全对齐与非安全对齐的最先进模型的表征层面鲁棒性（representation-level robustness）(https://huggingface.co/papers?q=representation-level%20robustness)。值得注意的是，分离模型（dissociated models）(https://huggingface.co/papers?q=dissociated%20models)在有害干预下尽管表现出类似的拒绝行为，但LVS (https://huggingface.co/papers?q=LVS)显著升高，其中中间表征对干预最为敏感。我们的结果表明，仅凭行为安全性（behavioral safety）(https://huggingface.co/papers?q=behavioral%20safety)评估无法提供模型鲁棒性的完整图景，这促使我们需要进行表征感知的审计，同时关注潜在脆弱性与可观测行为。

查看 arXiv 页面 (https://arxiv.org/abs/2606.08044)
查看 PDF (https://arxiv.org/pdf/2606.08044)
添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2606.08044)

在你的 agent 中获取这篇论文：

hf papers read 2606\.08044

没有最新的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本论文的模型 0

暂无模型关联本论文

在模型 README.md 中引用 arxiv.org/abs/2606.08044 以从此页面链接。

引用本论文的数据集 0

暂无数据集关联本论文

在数据集 README.md 中引用 arxiv.org/abs/2606.08044 以从此页面链接。

引用本论文的 Spaces 0

暂无 Space 关联本论文

在 Space README.md 中引用 arxiv.org/abs/2606.08044 以从此页面链接。

包含本论文的收藏集 0

暂无收藏集包含本论文

将本论文添加至收藏集 (https://huggingface.co/new-collection) 以从此页面链接。