@antoine_chaffin: 派对结束了，是时候对ColBERT模型进行正则化，以修复高效的ANN MUVERA和SMVE，它们曾承诺简化多向量……
摘要
作者发现，对ColBERT模型进行正则化可以修复高效的ANN方法MUVERA和SMVE（这些方法在现代ColBERT模型上出现了问题），并以一种意想不到的方式简化了多向量检索基础设施。
查看缓存全文
缓存时间: 2026/06/16 15:37
派对结束了，是时候对ColBERT模型进行正则化以修复高效的ANN了
MUVERA和SMVE曾承诺简化多向量检索基础设施，但在现代ColBERT模型上却失效了
我们找到了一个修复方法，而且它完全出乎我们意料 https://t.co/R3JOJ8kVU3
相似文章
@antoine_chaffin: Reason-ModernColBERT 几乎完美解决了 BrowseComp-Plus，碾压 SOTA，并超越了 54 倍大的模型。还不错吧…
Reason-ModernColBERT 在 BrowseComp-Plus 上取得了近乎完美的结果，超越了 SOTA 和 54 倍大的模型，随后 Agent-ModernColBERT 通过极少的训练进一步提升了性能。
@AmelieTabatta: ColBERT 模型继续让体积为其 54 倍的模型颜面扫地，这就是我们信任 Late Interaction @LightOnIO 的原因。一条 1 年…
本文强调了 ColBERT 模型如何凭借延迟交互（late interaction）技术和极少微调，尽管体积更小且发布时间更早，仍优于 Qwen3-embed-8B 等更大规模的模型。
@antoine_chaffin: 虽然只是BEIR，但v2与LateOn之间相差近10分。我们也有充分证据表明该模型的泛化能力……
LateOn作为新一代ColBERT模型，在BEIR上相比v2提升了近10个百分点，并且在BEIR之外也表现出良好的泛化能力，同时在PyLate中的使用方法完全相同。
@raphaelsrty：今天我们开源 LateOn 与 DenseOn，两款 149 M 参数的开放检索模型
Raphael 开源两款检索模型：LateOn（ColBERT 多向量）与 DenseOn（单向量），均 149 M 参数，在 BEIR 上超越体量 4 倍的大模型。
@LightOnIO：Reason-ModernColBERT 仅凭 149M 参数便在 BrowseComp-Plus 中拔得头筹。如今，Agent-ModernColBERT 在此基础上又提升了约 10%。达到…
LightOn 发布了 Agent-ModernColBERT，这是一个拥有 1.49 亿参数的开源检索模型。通过将在查询中整合智能体推理轨迹，其性能可与 GPT-5 搭配 Qwen3-Embed-8B 相媲美。