标签
SpenseGPT 提出了一种实用的一次性剪枝方法，用于大语言模型，可在推理过程中同时支持稀疏和密集的 GEMM，提升效率。
单向量嵌入模型可用于提取稀疏潜在术语，而BM25可将这一词汇转化为强大的检索器。