论文页面 - PolicyShiftGuard: 基准测试与改进策略自适应图像护栏

来源: https://huggingface.co/papers/2607.05910

摘要

图像护栏通常在固定安全策略下进行训练和评估，隐含地将安全性视为图像的固有属性。实际部署情况不同：同一张图像可能在一个产品中被允许，在另一个产品中被限制，并在政策边界变化时被新禁止。我们研究策略自适应图像护栏，即模型必须判断图像是否违反当前提供的策略，并泛化到未见的策略定义。我们引入了PolicyShiftBench，一个包含265张图像上2000个策略区分实例的全面基准，每张图像平均与7.55个策略条件提示配对，以测试模型是否适应当前策略而不是依赖图像级安全先验。然后我们提出PolicyShiftGuard，一种采用两阶段训练方案训练的紧凑型策略条件护栏，该方案结合了随机策略SFT (RP-SFT) 与边界对策略适应 (BP-Adapt)。BP-Adapt针对相同图像和风险类别训练匹配的提示，使用标准标签监督和成对比较损失，将阻止策略与通过策略分离。实验表明，现有视觉语言模型和专用护栏在策略变化下仍然脆弱，而PolicyShiftGuard大幅提升了策略敏感性能。7B模型在PolicyShiftBench上达到了平均F1为76.9、平均PSS为72.1的最优性能，良好迁移到UnSafeBench和SafeEditBench，并通过简洁的输出格式改善了延迟-性能权衡。消融实验证实，匹配的通过/阻止边界对对于稳定的策略适应至关重要。

查看arXiv页面 (https://arxiv.org/abs/2607.05910)查看PDF (https://arxiv.org/pdf/2607.05910)项目页面 (https://policyshiftguard.github.io/)GitHub20 (https://github.com/ssmisya/PolicyShiftGuard)添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.05910)

引用此论文的模型0

没有链接此论文的模型

在模型的README.md中引用arxiv.org/abs/2607.05910以从此页面链接。

引用此论文的数据集0

没有链接此论文的数据集

在数据集的README.md中引用arxiv.org/abs/2607.05910以从此页面链接。

引用此论文的Spaces0

没有链接此论文的Space

在Space的README.md中引用arxiv.org/abs/2607.05910以从此页面链接。

包含此论文的收藏集1