ENTRAP-VL: 面向视觉语言模型的双重语境夹带分类探测工具
摘要
介绍了ENTRAP-VL,这是一个由1500个条目构成的分类结构化数据集,用于探测视觉语言模型中的语境夹带现象,并研究文本语境与视觉语境如何独立影响模型输出。
查看缓存全文
缓存时间: 2026/07/24 05:06
论文页面 - ENTRAP-VL: 视觉语言模型中双重上下文牵引的分类探针
来源:https://huggingface.co/papers/2607.20092
摘要
上下文牵引是模型倾向于让输入中的辅助上下文影响其输出的现象,无论该上下文是否相关、真实甚至有意义。最近,这一现象已在单模态语言模型中被识别并给出了机制性解释。相比之下,它在视觉语言模型(VLM)中是否以及如何体现却鲜有研究,且该领域缺乏专门构建的研究工具。我们认为,研究VLM中的上下文牵引不仅需要将现有的纯文本基准迁移到多模态场景:还需要一个分类结构化的双模态工具,其条件围绕当前项目构建(文本流中的描绘图像,视觉流中的文本查询)。我们主张,向VLM的迁移是实质性的而非渐进式的。它使牵引成为一种双重现象,可分别由文本上下文和视觉上下文驱动,并且它开启了一个真实性区分(与所描绘场景不符但在世界中可能成立的上下文)——这在先前工作的单模态、仅世界知识框架中没有对应物。为使这一主张具体且可操作,我们引入了ENTRAP-VL(视觉与语言牵引评估探针),一个手动策划的数据集,包含8个类别共1,500个项目,按照沿两个轴(即上下文与项目的关联及其与真实性的关系)的分类法组织,并分为文本牵引流(8种上下文条件)和视觉牵引流(3种上下文条件)。我们不声称测量了任何特定模型中的牵引;我们提供工具、其动因分类法以及它所启用的评估协议,以便研究社区能够严谨地调查这一现象。我们将公开发布数据集及其文档。
查看arXiv页面 (https://arxiv.org/abs/2607.20092) 查看PDF (https://arxiv.org/pdf/2607.20092) 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2607.20092)
在您的智能体中获取此论文:
hf papers read 2607.20092
没有最新的CLI?curl -LsSf https://hf.co/cli/install.sh | bash
引用此论文的模型0
无模型链接此论文
请在模型README.md中引用arxiv.org/abs/2607.20092以从本页面链接。
引用此论文的数据集1
goyalkaraniit/ENTRAP-VL 查看器• 更新于约18小时前 • 2.9k • 10 (https://huggingface.co/datasets/goyalkaraniit/ENTRAP-VL)
引用此论文的Spaces0
无Space链接此论文
请在Space README.md中引用arxiv.org/abs/2607.20092以从本页面链接。
包含此论文的收藏集0
无收藏集包含此论文
请将此论文添加到收藏集 (https://huggingface.co/new-collection) 以从本页面链接。
相似文章
大型语言模型中的句子级上下文夹带
本文将上下文夹带从标记级扩展到句子级,表明提示中的反事实句子在推理时也会增加其概率。该效应随模型规模增大而减弱,且由2-4%的注意力头驱动,这些注意力头可被消融而不影响性能。
Stateful Visual Encoders for Vision-Language Models
本文介绍了一种用于视觉-语言模型的有状态视觉编码器,该编码器基于先前的特征来调节视觉表示,从而在多图像和智能体设置中实现更好的视觉比较。该方法在跨图像空间聚合、纵向放射学等任务上展现出一致的改进。
DataComp-VLM:面向视觉语言模型的改进型开放数据集
本文介绍了DataComp-VLM(DCVLM),这是一个用于评估视觉语言模型数据策展策略的综合基准。作者发现,数据混合而非数据过滤能显著提升性能,由此产生的DCVLM-Baseline数据集在33项下游任务中取得了最先进的结果。
高效训练长上下文视觉语言模型,实现超越128K上下文的泛化
本文系统研究了视觉语言模型的长上下文持续预训练,通过高效的数据混合设计,实现了超越128K上下文的泛化,并介绍了MMProLong模型。
人类与分类模型在语码转换语音中的协同行为跨语言比较
本文对普通话-英语、印地语-英语和西班牙语-英语的语码转换对话中的协同行为进行了跨语言分析,发现词汇协同具有泛化性,而声学韵律和风格协同则表现出差异。同时评估了分类模型捕捉这些行为的能力,结果显示模型优先考虑的特征与人类不同。