我开发了一种方法，可以在不同嵌入模型间迁移，而无需重新嵌入整个语料库

所以我一直在研究嵌入模型时发现，当你从模型A升级到模型B时，会面临很大的回填成本。也就是说，假设你有来自模型A的10亿向量，然后想使用模型B。这意味着你必须用模型B重新嵌入所有文档才能使用它，而在H100上，这大约需要108天（qwen embed 8b，106文档/秒）。但我找到了一个更简单的方法。这种方法非常简单：从用源模型创建的旧索引中，取出K个文档，并用新模型重排它们。我们看到，当K足够大时，检索质量与目标模型相同。（确定K是困难的部分）。我已经在多达100万文档上测试了63次迁移。我得到的最佳结果是从qwen4b升级到8b，在50个文档时，与原生检索效果相同。这种方法避免了昂贵的前期重嵌入成本，因为你可以直接从旧索引中取出文档。embedflow支持qdrant、pgvector、faiss，可以通过pypi pip install embedflow轻松下载，GitHub是公开的：https://github.com/arnsri33/embedflow。我希望你们试一试，看看是否能在自己的工作流中使用它。