EviRank:多模态图像重排序的结构化相关性证据

Hugging Face Daily Papers 论文

摘要

EviRank 将多模态图像重排序重新表述为使用结构化证据包的语义约束满足,无需训练即可实现最先进的性能。

现实世界的图像搜索查询是多模态和组合式的:“找到这件粉色的衬衫”指定了要保留的实体、要修改的属性和要忽略的上下文。然而,现有的重排序器要么将这种多方面的相关性压缩成不透明的嵌入,要么依赖自由形式的思维链,容易遗漏或虚构细粒度的约束。借鉴自然语言处理中基于标准和检查表的评估方法,我们将多模态图像重排序重新定义为语义约束满足问题,并提出了 EviRank,它将任何查询——纯文本、纯图像或组合查询——解析为统一的证据包:跨六个语义槽的类型化标准(例如,实体、属性、关系),每个标准标记为必需、禁止或可忽略。然后,重排序简化为基于证据的验证,结合确定性的标准评分和基于证据的列表比较,这是一个无需训练的单一过程。显式证据还可以作为结构化监督,用于可选地蒸馏一个轻量级的学生模型。在涵盖文本到图像、图像到图像和组合图像检索的五个基准测试中,EviRank 实现了最先进的性能,且蒸馏的学生模型以显著更低的成本保留了教师模型超过 90% 的能力。
查看原文
查看缓存全文

缓存时间: 2026/08/24 08:28

论文页面 - EviRank:基于结构化相关证据的多模态图像重排序

来源:https://huggingface.co/papers/2608.20886 作者:

,

,

,

,

,

,

,

,

,

摘要

EviRank 将多模态图像重排序重新定义为语义约束满足问题,通过将查询解析为结构化的证据包,并利用标准评分与列表式比较进行候选验证,整个过程无需训练。

现实世界的图像搜索查询是多模态且组合式的,例如“找出这件粉色衬衫”就指定了要保留的实体、要修改的属性以及需要忽略的上下文。然而现有的重排序方法要么将这种多维相关性压缩为不透明的向量嵌入,要么依赖自由形式的思维链,容易遗漏或虚构细粒度的约束。受自然语言处理中基于标准清单和检查清单的评估方法启发,我们将多模态图像重排序(https://huggingface.co/papers?q=multimodal%20image%20re-ranking)重构为语义约束满足(https://huggingface.co/papers?q=semantic%20constraint%20satisfaction)问题,并提出了 EviRank。该方法将任何查询——纯文本、纯图像或组合查询——解析为统一的证据包(https://huggingface.co/papers?q=evidence%20package),其中包含六个语义槽位(例如实体、属性、关系)的类型化标准,每个标准被标记为必需、禁止或可忽略。重排序因此简化为基于证据的验证,将确定性的标准评分(https://huggingface.co/papers?q=rubric%20scoring)与基于证据的列表式比较(https://huggingface.co/papers?q=listwise%20comparison)结合在一个无需训练(https://huggingface.co/papers?q=training-free)的流程中。这些显式证据还可作为结构化监督,用于可选择地蒸馏轻量级学生模型。在涵盖文本到图像、图像到图像和组合图像检索的五个基准测试中,EviRank 达到了最先进的性能,且蒸馏出的学生模型(https://huggingface.co/papers?q=distilled%20student)以显著更低的成本保留了教师模型超过 90% 的能力。

查看 arXiv 页面 (https://arxiv.org/abs/2608.20886) 查看 PDF (https://arxiv.org/pdf/2608.20886) 添加到收藏夹 (https://huggingface.co/login?next=%2Fpapers%2F2608.20886)

通过智能助手获取本文:

hf papers read 2608\.20886

尚未安装最新 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型

0

没有模型链接本文

在模型的 README.md 中引用 arxiv.org/abs/2608.20886 可从此页面链接到该模型。

引用本文的数据集

0

没有数据集链接本文

在数据集的 README.md 中引用 arxiv.org/abs/2608.20886 可从此页面链接到该数据集。

引用本文的 Spaces

0

没有 Space 链接本文

在 Space 的 README.md 中引用 arxiv.org/abs/2608.20886 可从此页面链接到该 Space。

包含本文的收藏夹

0

没有收藏夹包含本文

将本文添加到收藏夹 (https://huggingface.co/new-collection) 可从此页面链接到该收藏夹。

相似文章

VeriEvol: 通过可验证的Evol-Instruct扩展多模态数学推理

Hugging Face Daily Papers

VeriEvol是一个新颖的框架,用于在视觉数学推理中扩展强化学习,通过一个双轴方法来确保可靠的奖励标签,该双轴方法将提示难度与答案可靠性分离,使用进化算子和假设检验验证。它在五个基准的视觉数学测试集上取得了显著的准确率提升。

EviReform:证据引导的多跳图检索查询重写

arXiv cs.CL

EviReform 提出了一种证据引导的查询重写方法,用于多跳图检索,将检索请求的修订与证据聚合分离,并在 2WikiMultiHopQA、HotpotQA 和 MuSiQue 上超过了最强基线,分别提升了最多 5.59 Recall@5 和 4.50 F1。