@mixedbreadai：到如今，所有人都知道单向量嵌入模型对现代工作流极为有限。但它们包含更多…

X AI KOLs Following 2026/06/02 18:48 论文

embeddings retrieval sparse bm25 latent-terms single-vector

摘要

单向量嵌入模型可用于提取稀疏潜在术语，而BM25可将这一词汇转化为强大的检索器。

到如今，所有人都知道单向量嵌入模型对现代工作流极为有限。但它们包含的比你想象的更多：你可以从中提取稀疏潜在术语。事实证明，BM25就是你所需的一切，能将这一词汇转化为强大的检索器。https://t.co/rfAbLQnspQ

查看原文

查看缓存全文

缓存时间: 2026/06/03 01:40

现在大家都知道，单向量嵌入模型对现代工作流程有着极大的限制。

但它们包含的内容比你以为的要多：你可以从中提取出稀疏的潜在词项（sparse Latent Terms）。

而事实证明，只需要 BM25 就能将这个词汇表变成一个强大的检索器。https://t.co/rfAbLQnspQ

相似文章

X AI KOLs Following

该论文提出 Latent Terms 方法，使用稀疏自编码器从冻结的密集检索器中提取BM25就绪的稀疏特征，无需检索特定训练即可实现有竞争力的性能。

Hugging Face Daily Papers

SMART是一个框架，能够解锁单向量模型中的潜在多向量能力，用于多模态检索，通过对比训练和后期交互推理，在降低计算成本的同时提升最先进的性能。

X AI KOLs Timeline

研究人员使用经过重构训练的稀疏自编码器，从冻结的密集检索器中提取出可索引且适用于BM25的稀疏特征。

X AI KOLs Timeline

文章反对过度使用向量搜索，强调BM25在精确关键词匹配上的有效性及其在混合搜索系统中的作用。

arXiv cs.AI

本文指出词汇差距是导致ModernBERT等先进编码器在学习型稀疏检索中表现不佳的根本原因，并提出词汇迁移（VT）这一模型无关框架，将编码器迁移至稀疏友好的词汇表，在BEIR基准测试上取得最优结果。