GGSS:用于生成式视觉语言模型推理时去偏的测地线门控球面引导
摘要
GGSS通过在推理过程中使用自适应门控沿测地线弧引导视觉令牌,减少生成式视觉语言模型中的人口统计偏差,同时保持视觉语言准确性。
查看缓存全文
缓存时间: 2026/09/01 12:03
论文页面 - GGSS:用于生成式视觉-语言模型推理时去偏的测地线门控球面转向
来源:https://huggingface.co/papers/2608.25375
摘要
GGSS 通过采用自适应门控沿测地线弧引导视觉令牌,在保持视觉-语言准确性的同时,减少了生成式视觉-语言模型中的人口统计学偏差。
生成式视觉-语言模型(VLMs)在以人为中心的应用中日益普及,但即便图像仅在感知种族或性别等受控属性上存在细微差异,它们也可能产生具有人口统计学偏见的输出。然而,现有的推理时去偏方法主要针对静态嵌入或类 CLIP 模型设计,而非生成式 VLMs(https://huggingface.co/papers?q=generative%20VLMs)。我们提出了 GGSS(https://huggingface.co/papers?q=GGSS)——测地线门控球面转向(https://huggingface.co/papers?q=Geodesic-Gated%20Spherical%20Steering)——这是一种范数保持的干预方法,它在单位超球面(https://huggingface.co/papers?q=unit%20hypersphere)上发现反事实偏见子空间(https://huggingface.co/papers?q=counterfactual%20bias%20subspace),沿测地线弧(https://huggingface.co/papers?q=geodesic%20arcs)引导视觉令牌(https://huggingface.co/papers?q=visual%20tokens),并使用自适应门控(https://huggingface.co/papers?q=adaptive%20gate)将纠重点放在携带更强人口统计学信号的令牌上。我们在单一操作点协议下,针对四个生成式 VLMs(https://huggingface.co/papers?q=generative%20VLMs)评估了十种适配的推理时去偏(https://huggingface.co/papers?q=inference-time%20debiasing)基线方法和基于提示的缓解方法,进行了类别、成对和职业-性别偏差测试,同时测量了通用的视觉-语言能力。GGSS(https://huggingface.co/papers?q=GGSS)在所有四个模型上取得了最低的平均偏差,在四个主干网络中的三个上经配对排列检验显著,同时将 MMStar 准确率保持在未引导基线的 +/- 0.6 百分点内。代码可在 https://github.com/dukesun99/GGSS(https://huggingface.co/papers?q=GGSS)获取。
查看 arXiv 页面 (https://arxiv.org/abs/2608.25375) 查看 PDF (https://arxiv.org/pdf/2608.25375) GitHub1 (https://github.com/dukesun99/GGSS) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2608.25375)
在你的代理中获取这篇论文:
hf papers read 2608.25375
没有最新的 CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
没有模型关联此论文
在模型的 README.md 中引用 arxiv.org/abs/2608.25375 以从此页面链接它。
引用此论文的数据集0
没有数据集关联此论文
在数据集的 README.md 中引用 arxiv.org/abs/2608.25375 以从此页面链接它。
引用此论文的空间0
没有空间关联此论文
在空间的 README.md 中引用 arxiv.org/abs/2608.25375 以从此页面链接它。
包含此论文的收藏0
没有收藏包含此论文
将此论文添加到收藏夹 (https://huggingface.co/new-collection) 以从此页面链接它。
相似文章
超越3D VQA:将3D空间先验注入视觉语言模型以增强几何推理
本文提出GASP框架,通过深度监督结合对比损失和深度一致性损失将几何先验注入视觉语言模型,在3D空间推理基准上取得了显著提升,且无需使用3D VQA数据。
GAPS:条件激活引导的维度级门控
GAPS引入了维度级门控用于语言模型中的条件激活引导,结合静态和动态门控进行选择性干预,改善行为-能力权衡,在毒性缓解和概念移除任务上取得显著提升。
生成作为辅助监督:通过解耦嵌入预测以零推理开销增强视觉理解
GAS 引入了一种生成引导的训练框架,通过解耦的混合Transformer架构,使用辅助生成任务来提高多模态模型中的视觉理解,且无推理开销。
GrAInS:基于梯度的归因方法用于大语言模型和视觉语言模型的推理时引导
GrAInS 是一种基于对比梯度的归因方法,利用积分梯度识别影响最大的词元,并构建引导向量,在推理时对大语言模型(LLM)和视觉语言模型(VLM)进行引导,从而提升真实性并减少幻觉,同时不损害流畅性。
GDSD:强化学习作为扩散语言模型的引导式降噪器自蒸馏
GDSD提出了一种强化学习方法,直接从优势引导的自教师中蒸馏扩散语言模型的降噪器,避免了基于ELBO的似然代理带来的偏差。在规划、数学和编码基准上,比先前最先进的方法准确率提升高达+19.6%。