@tomaarsen: 成本低1400倍，我知道我将坚持使用嵌入（密集、稀疏、多向量），加上混合方法（包括bm25）和重排……

X AI KOLs Following 2026/08/21 07:28 新闻

embedding-models llm-cost nlp-research reranking cross-encoders information-retrieval

摘要

一项关于嵌入与大语言模型成本效益的讨论，引用了名为'embedder's dilemma'的研究，该研究发现大语言模型以显著更高的成本超越了嵌入模型。

成本低1400倍，我知道我将坚持使用嵌入（密集、稀疏、多向量），加上混合方法（包括bm25）和重排器。也许我甚至会使用列表交叉编码器，它们看起来很有趣。

查看原文

查看缓存全文

缓存时间: 2026/08/23 21:45

便宜1400倍的情况下，我依然会坚持使用向量嵌入技术（包括稠密向量、稀疏向量、多向量表示），以及混合检索（含BM25算法）和重排序模型。

或许我还会尝试列表式交叉编码器，它们看起来很有意思。

Niklas Muennighoff (@Muennighoff): 大语言模型能否取代嵌入模型？在一项名为“嵌入模型困境“的新研究中，我们发现LLMs现在已超越传统嵌入模型——但代价是成本大幅增加。何时该选择哪种方案？… 📜

相似文章

The Embedder's Dilemma: LLMs Are Better, but at What Cost?

arXiv cs.CL

This paper presents a cost-aware comparison of LLMs versus dedicated embedding models across 37 tasks, finding that the best LLM and embedding model are nearly tied on aggregate performance but LLMs are up to 1,431x more expensive and slower, leading to a recommended division of labor.