论文页面 - UEmbed：统一稀疏与稠密多模态嵌入

来源：https://huggingface.co/papers/2608.02583

摘要

稀疏检索是现代搜索系统的基础，从网页搜索到检索增强生成（retrieval-augmented generation）都是如此。现有工作已引入学习型稀疏检索（Learned Sparse Retrieval, LSR），以超越精确词汇匹配，实现更丰富的语义。然而，LSR 至今仍局限于编码器风格的双向架构，其向多模态设置的扩展也仍严重依赖辅助的跨模态模块。为解决这些局限，我们提出了 UEmbed（Unified Embedding），一种仅解码器的多模态嵌入模型，可在一次因果前向传播中同时产生稀疏词法表示和稠密表示。UEmbed 向输入附加 N 个可学习的特殊 token，并将词汇表划分为 N 个不相交的子集。每个 token 的因果隐藏状态对其分配的子集预测稀疏权重，然后将 N 个子集拼接成完整的稀疏向量。我们在公开数据上训练，并发布了 2B、4B 和 9B 三种规模的 UEmbed。UEmbed-9B 在 MMEB-v2 上达到 71.8（稠密）和 71.0（稀疏），优于在公开可用数据上训练的多模态嵌入模型（如 RzenEmbed）。在 BEIR 上，UEmbed 也与强稠密和稀疏基线保持竞争力。此外，我们从三个维度展示了 UEmbed 的实际效用：有效性、效率和智能体应用。总体而言，UEmbed 提供了一种新范式：它在单一模型中统一了稠密和稀疏嵌入，同时进一步将稀疏检索扩展为统一文本和多模态输入。

查看 arXiv 页面 (https://arxiv.org/abs/2608.02583) · 查看 PDF (https://arxiv.org/pdf/2608.02583) · 项目页面 (https://alibaba-nlp.github.io/UEmbed/) · GitHub2 (https://github.com/Alibaba-NLP/UEmbed) · 添加到收藏 (https://huggingface.co/login?next=%2Fpapers%2F2608.02583)

在您的 agent 中获取这篇论文：

hf papers read 2608\.02583

没有最新版的 CLI？curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型3

Alibaba-NLP/UEmbed-9B 特征提取 • 8B • 更新于约2小时前 • 4 (https://huggingface.co/Alibaba-NLP/UEmbed-9B)

Alibaba-NLP/UEmbed-2B 特征提取 • 2B • 更新于约2小时前 • 2 (https://huggingface.co/Alibaba-NLP/UEmbed-2B)

Alibaba-NLP/UEmbed-4B 特征提取 • 5B • 更新于约2小时前 • 1 (https://huggingface.co/Alibaba-NLP/UEmbed-4B)

引用此论文的数据集0

没有链接此论文的数据集

在数据集 README.md 中引用 arxiv.org/abs/2608.02583 即可从此页面链接它。

引用此论文的 Spaces 0

没有链接此论文的 Space

在 Space 的 README.md 中引用 arxiv.org/abs/2608.02583 即可从此页面链接它。

包含此论文的收藏集1