ENTRAP-VL: 面向视觉语言模型的双重语境夹带分类探测工具

Hugging Face Daily Papers 论文

摘要

介绍了ENTRAP-VL,这是一个由1500个条目构成的分类结构化数据集,用于探测视觉语言模型中的语境夹带现象,并研究文本语境与视觉语境如何独立影响模型输出。

语境夹带是指模型倾向于让输入中的辅助语境牵拉其输出,无论该语境是否相关、真实甚至有意义。近期,该现象已在单模态语言模型中被识别并给出了机理解释。相比之下,它在视觉语言模型(VLM)中是否以及如何表现出来却基本未经审视,该领域也缺乏专门为此设计的探测工具。我们认为,研究VLM中的语境夹带不仅仅需要将现有的纯文本基准迁移到多模态场景,更需要一个分类结构化、双模态的探测工具,其条件需围绕当前条目构建(文本流中的描绘图像,视觉流中的文本查询)。我们主张,向VLM的转变是实质性的而非增量式的。它使语境夹带成为一种双重现象,可由文本语境和视觉语境独立驱动,并开启了一种真实度区分(对描绘场景不真实但在世界中可能存在的语境),这在以往仅基于世界知识的单模态表述中没有对应物。为使这一立场具体且可操作,我们提出了ENTRAP-VL(视觉与语言夹带评估探测工具),这是一个手动整理的数据集,包含8个类别共1500个条目,按两个轴(语境与条目的关联性及与真实性的关系)的分类法组织,并划分为文本夹带流(8种语境条件)和视觉夹带流(3种语境条件)。我们并不声称测量了任何特定模型中的夹带现象,而是提供该工具、其背后的分类法以及由此启用的评估协议,以便社区能严格地研究该现象。我们将公开该数据集及其文档。
查看原文
查看缓存全文

缓存时间: 2026/07/24 05:06

论文页面 - ENTRAP-VL: 视觉语言模型中双重上下文牵引的分类探针

来源:https://huggingface.co/papers/2607.20092

摘要

上下文牵引是模型倾向于让输入中的辅助上下文影响其输出的现象,无论该上下文是否相关、真实甚至有意义。最近,这一现象已在单模态语言模型中被识别并给出了机制性解释。相比之下,它在视觉语言模型(VLM)中是否以及如何体现却鲜有研究,且该领域缺乏专门构建的研究工具。我们认为,研究VLM中的上下文牵引不仅需要将现有的纯文本基准迁移到多模态场景:还需要一个分类结构化的双模态工具,其条件围绕当前项目构建(文本流中的描绘图像,视觉流中的文本查询)。我们主张,向VLM的迁移是实质性的而非渐进式的。它使牵引成为一种双重现象,可分别由文本上下文和视觉上下文驱动,并且它开启了一个真实性区分(与所描绘场景不符但在世界中可能成立的上下文)——这在先前工作的单模态、仅世界知识框架中没有对应物。为使这一主张具体且可操作,我们引入了ENTRAP-VL(视觉与语言牵引评估探针),一个手动策划的数据集,包含8个类别共1,500个项目,按照沿两个轴(即上下文与项目的关联及其与真实性的关系)的分类法组织,并分为文本牵引流(8种上下文条件)和视觉牵引流(3种上下文条件)。我们不声称测量了任何特定模型中的牵引;我们提供工具、其动因分类法以及它所启用的评估协议,以便研究社区能够严谨地调查这一现象。我们将公开发布数据集及其文档。

查看arXiv页面 (https://arxiv.org/abs/2607.20092) 查看PDF (https://arxiv.org/pdf/2607.20092) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.20092)

在您的智能体中获取此论文:

hf papers read 2607.20092

没有最新的CLI?curl -LsSf https://hf.co/cli/install.sh | bash

引用此论文的模型0

无模型链接此论文

请在模型README.md中引用arxiv.org/abs/2607.20092以从本页面链接。

引用此论文的数据集1

goyalkaraniit/ENTRAP-VL 查看器• 更新于约18小时前 • 2.9k • 10 (https://huggingface.co/datasets/goyalkaraniit/ENTRAP-VL)

引用此论文的Spaces0

无Space链接此论文

请在Space README.md中引用arxiv.org/abs/2607.20092以从本页面链接。

包含此论文的收藏集0

无收藏集包含此论文

请将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从本页面链接。

相似文章

大型语言模型中的句子级上下文夹带

arXiv cs.CL

本文将上下文夹带从标记级扩展到句子级,表明提示中的反事实句子在推理时也会增加其概率。该效应随模型规模增大而减弱,且由2-4%的注意力头驱动,这些注意力头可被消融而不影响性能。

Stateful Visual Encoders for Vision-Language Models

Hugging Face Daily Papers

本文介绍了一种用于视觉-语言模型的有状态视觉编码器,该编码器基于先前的特征来调节视觉表示,从而在多图像和智能体设置中实现更好的视觉比较。该方法在跨图像空间聚合、纵向放射学等任务上展现出一致的改进。

DataComp-VLM:面向视觉语言模型的改进型开放数据集

Hugging Face Daily Papers

本文介绍了DataComp-VLM(DCVLM),这是一个用于评估视觉语言模型数据策展策略的综合基准。作者发现,数据混合而非数据过滤能显著提升性能,由此产生的DCVLM-Baseline数据集在33项下游任务中取得了最先进的结果。

人类与分类模型在语码转换语音中的协同行为跨语言比较

arXiv cs.CL

本文对普通话-英语、印地语-英语和西班牙语-英语的语码转换对话中的协同行为进行了跨语言分析,发现词汇协同具有泛化性,而声学韵律和风格协同则表现出差异。同时评估了分类模型捕捉这些行为的能力,结果显示模型优先考虑的特征与人类不同。