GGSS:用于生成式视觉语言模型推理时去偏的测地线门控球面引导

Hugging Face Daily Papers 论文

摘要

GGSS通过在推理过程中使用自适应门控沿测地线弧引导视觉令牌,减少生成式视觉语言模型中的人口统计偏差,同时保持视觉语言准确性。

生成式视觉语言模型(VLMs)正越来越多地应用于以人为中心的环境中,但即使图像仅在感知种族或性别等受控属性上存在差异,它们也可能产生人口统计偏差的输出。然而,现有的推理时去偏器主要针对静态嵌入或类CLIP模型设计,而非生成式VLMs。我们提出GGSS——测地线门控球面引导——一种范数保持干预方法,它在单位超球面上发现反事实偏差子空间,沿测地线弧引导视觉令牌,并使用自适应门控将修正集中在携带较强人口统计信号的令牌上。我们在单一操作点协议下,对四种生成式VLMs进行了评估,比较了十种适应的推理时去偏基线和基于提示的缓解方法,跨分类、成对和职业性别偏差测试,同时测量了通用视觉语言能力。GGSS在所有四种模型上实现了最低的平均偏差,在配对置换检验中,四种骨干网络中有三种显著,同时将MMStar准确性保持在未引导基线的±0.6个百分点内。代码可在 https://github.com/dukesun99/GGSS 获取。
查看原文
查看缓存全文

缓存时间: 2026/09/01 12:03

论文页面 - GGSS:用于生成式视觉-语言模型推理时去偏的测地线门控球面转向

来源:https://huggingface.co/papers/2608.25375

摘要

GGSS 通过采用自适应门控沿测地线弧引导视觉令牌,在保持视觉-语言准确性的同时,减少了生成式视觉-语言模型中的人口统计学偏差。

生成式视觉-语言模型(VLMs)在以人为中心的应用中日益普及,但即便图像仅在感知种族或性别等受控属性上存在细微差异,它们也可能产生具有人口统计学偏见的输出。然而,现有的推理时去偏方法主要针对静态嵌入或类 CLIP 模型设计,而非生成式 VLMs(https://huggingface.co/papers?q=generative%20VLMs)。我们提出了 GGSS(https://huggingface.co/papers?q=GGSS)——测地线门控球面转向(https://huggingface.co/papers?q=Geodesic-Gated%20Spherical%20Steering)——这是一种范数保持的干预方法,它在单位超球面(https://huggingface.co/papers?q=unit%20hypersphere)上发现反事实偏见子空间(https://huggingface.co/papers?q=counterfactual%20bias%20subspace),沿测地线弧(https://huggingface.co/papers?q=geodesic%20arcs)引导视觉令牌(https://huggingface.co/papers?q=visual%20tokens),并使用自适应门控(https://huggingface.co/papers?q=adaptive%20gate)将纠重点放在携带更强人口统计学信号的令牌上。我们在单一操作点协议下,针对四个生成式 VLMs(https://huggingface.co/papers?q=generative%20VLMs)评估了十种适配的推理时去偏(https://huggingface.co/papers?q=inference-time%20debiasing)基线方法和基于提示的缓解方法,进行了类别、成对和职业-性别偏差测试,同时测量了通用的视觉-语言能力。GGSS(https://huggingface.co/papers?q=GGSS)在所有四个模型上取得了最低的平均偏差,在四个主干网络中的三个上经配对排列检验显著,同时将 MMStar 准确率保持在未引导基线的 +/- 0.6 百分点内。代码可在 https://github.com/dukesun99/GGSS(https://huggingface.co/papers?q=GGSS)获取。

查看 arXiv 页面 (https://arxiv.org/abs/2608.25375) 查看 PDF (https://arxiv.org/pdf/2608.25375) GitHub1 (https://github.com/dukesun99/GGSS) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2608.25375)

在你的代理中获取这篇论文:

hf papers read 2608.25375

没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

没有模型关联此论文

在模型的 README.md 中引用 arxiv.org/abs/2608.25375 以从此页面链接它。

引用此论文的数据集0

没有数据集关联此论文

在数据集的 README.md 中引用 arxiv.org/abs/2608.25375 以从此页面链接它。

引用此论文的空间0

没有空间关联此论文

在空间的 README.md 中引用 arxiv.org/abs/2608.25375 以从此页面链接它。

包含此论文的收藏0

没有收藏包含此论文

将此论文添加到收藏夹 (https://huggingface.co/new-collection) 以从此页面链接它。

相似文章

GAPS:条件激活引导的维度级门控

arXiv cs.CL

GAPS引入了维度级门控用于语言模型中的条件激活引导,结合静态和动态门控进行选择性干预,改善行为-能力权衡,在毒性缓解和概念移除任务上取得显著提升。

GDSD:强化学习作为扩散语言模型的引导式降噪器自蒸馏

Hugging Face Daily Papers

GDSD提出了一种强化学习方法,直接从优势引导的自教师中蒸馏扩散语言模型的降噪器,避免了基于ELBO的似然代理带来的偏差。在规划、数学和编码基准上,比先前最先进的方法准确率提升高达+19.6%。