@bclavie: 这可能是今年最好的IR发布。文本基准测试(过去)已失效,DL19/DL20/BEIR不再提供有价值…
摘要
一个新的IR基准发布解决了DL19/DL20/BEIR中文本基准测试失效的问题,使得在当前时代的训练方法中能够有意义地衡量改进。
这可能是今年最好的IR发布。
文本基准测试(过去)已失效,DL19/DL20/BEIR不再为当前时代和训练方法提供有价值的信号。
……但现在我们可以再次有意义地衡量改进,感谢@dianetc_和@lateinteraction
查看缓存全文
缓存时间: 2026/05/08 19:37
这可能是今年最好的IR版本发布。
文本基准测试过去(现在)已失效,DL19/DL20/BEIR对于当前时代和训练方法来说不再包含有价值的信号。
……但如今我们可以再次有意义地衡量改进,感谢@dianetc_和@lateinteraction。
相似文章
新基准测试发布
一个新基准测试已发布,可能用于评估AI或软件性能。
@dianetc_: 我们着手构建一个更好的检索器,因此寻找了最难的IR基准测试。针对每个基准,我们询问了还有多少提升空间……
作者介绍了OBLIQ-Bench,这是一个新基准,用于评估信息检索系统在明显更难的搜索查询上的表现,而之前的基准测试几乎没有剩余提升空间。
@Lyubh22:编程基准测试正在趋于饱和。AI4Research 是下一个前沿领域。很高兴看到我们的 MLS-Bench(https://mls-bench.co…)
正式发布 MLS-Bench,这是首个获得社区广泛采用的 AI4Research 基准测试,它在 12 个领域的 140 个可执行任务上测试 AI 智能体,以提出模块化的机器学习改进方案。该帖子还包含 Claude Opus 4.6 和 GPT-5.4 等模型的排行榜分数。
新本地模型在PII移除上达到接近前沿性能,仅需9毫秒CPU推理
介绍了ScreenLeak基准,用于衡量计算机使用AI数据中的PII编辑,并提出了两个本地模型(用于文本的v45_phase3和用于图像的rfdetr_v8),在低延迟下实现了接近前沿的性能。
@jerryjliu0:ParseBench 是首个在完整企业文档中评测 VLM 图表理解能力的基准
ParseBench 首次把图表理解放进整份企业文档中评测视觉-语言模型,填补了以往仅针对孤立图表的基准空白。