标签
Meta AI 推出 MetaEncoder，通过单向对比学习将预训练的 Muse-Glimmer 30B 解码器微调为能够遵循指令进行决策的编码器，并在涵盖多模态闭集与开集决策的 11 个基准、190 个任务上进行了评估。
论文提出了一套用于可解释简历—职位匹配的两阶段流水线：首先是一个离线 LLM 标注器，经招聘人员反馈迭代优化，产出八个具名的匹配维度；随后将这些维度蒸馏到一个基于 LoRA 适配、可在 CPU 上部署的双编码器模型中，并为每个维度设置独立的预测头。该模型在 168,772 组标注配对数据上训练，在 927 条生产环境反馈样本组成的子集上，蒸馏后的部署模型与招聘人员记录的决策一致率达 95.79%。
该论文认为，在英语词义消歧中，金标准标签而非模型已成为瓶颈，发布了新的基准和一个双编码器模型来解决这个问题，并证明重新标记能提升性能。
本文介绍了一个开放基准测试和一个专门的双编码器模型，用于1C:Enterprise生态系统中的自然语言代码检索，解决了俄语代码搜索领域特定资源的缺乏问题。