Q2D-Web: 大规模评估第一阶段检索器(阅读时长约11分钟)

TLDR AI 工具

摘要

Q2D-Web是一个大规模的基准和排行榜,用于评估网络搜索中的检索模型,具有1.9亿文档和查询,涵盖十种语言,并采用方法以最小化偏差并降低评估成本。

Q2D-Web是一个大规模的基准和排行榜,用于评估网络搜索中的检索模型,包含1.9亿文档和69,721个查询,涵盖十种语言。它使用三套独立的相关性判断集来最小化偏差并提高可靠性,帮助检索器区分相关数据与干扰项。评估提交通过子采样方法处理,以减少资源成本,同时保持模型排名的完整性。
查看原文

相似文章

QontoFAQ: 一个更优的信息检索基准 [R]

Reddit r/MachineLearning

QontoFAQ 介绍了一个用于信息检索的新基准和指标,专注于提升回答产品问题的相关性度量,并发布了相关的代码和数据集。

召回前重排序:大规模代码到代码检索的深度学习模型基准测试

arXiv cs.CL

本文对17种深度学习模型在大规模代码到代码检索的第一阶段召回中进行了基准测试,评估了它们在多种编程语言和数据集上的精确度、效率和可扩展性。文中介绍了基于LLM的代码标准化和查询重写方案,这些方案提高了性能较低模型的精确度。