EmbeddingGemma 2:统一且高效的多模态表示
摘要
Google 推出 EmbeddingGemma 2,一个统一文本、图像、音频与视频表示的开源多模态嵌入模型,采用简化逐层嵌入与多阶段训练课程,在各模态基准上建立新的帕累托前沿,性能超越大 2 至 12 倍的模型。
查看缓存全文
缓存时间: 2026/10/28 17:28
论文页面 - EmbeddingGemma 2:统一且高效的多模态表示
来源:https://huggingface.co/papers/2610.37364 作者:
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
,
摘要
EmbeddingGemma 2 是一个开放的多模态嵌入模型,以高效的资源灵活设计和最先进的基准性能统一了文本、图像、音频和视频表示。
我们提出了 EmbeddingGemma 2,这是一个开放的多模态嵌入模型(https://huggingface.co/papers?q=multimodal%20embedding%20model),能够在统一空间中对文本、图像、音频、视频及其组合进行原生表示。我们的方法引入了多项改进,包括简化的逐层嵌入(https://huggingface.co/papers?q=per-layer%20embeddings)以及带有模态和目标渐进的多阶段课程学习(https://huggingface.co/papers?q=multi-stage%20curriculum),确保在单模态、跨模态(https://huggingface.co/papers?q=cross-modal)和混合模态(https://huggingface.co/papers?q=mixed-modal)评估中均具有优异的质量。值得一提的是,在涵盖所有模态的综合嵌入基准测试中,EmbeddingGemma 2 确立了新的帕累托最优前沿(https://huggingface.co/papers?q=Pareto%20frontier),超越了专用模型以及规模大二至十二倍的模型。此外,我们的设计为资源受限的环境提供了灵活性,支持选择性模态编码器加载(https://huggingface.co/papers?q=selective%20modality%20encoder%20loading)、可调节的视觉token预算(https://huggingface.co/papers?q=vision%20token%20budgets)、可截断的嵌入维度(https://huggingface.co/papers?q=truncatable%20embedding%20dimensions)以及量化权重(https://huggingface.co/papers?q=quantized%20weights)。我们提供了分析关键设计决策的消融实验,并发布 EmbeddingGemma 2 以促进进一步研究。
查看 arXiv 页面(https://arxiv.org/abs/2610.37364)查看 PDF(https://arxiv.org/pdf/2610.37364)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2610.37364)
在你的 agent 中获取此论文:
hf papers read 2610\.37364
没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash
引用本文的模型1
google/embeddinggemma-2 特征提取 • 0.7B • 更新于约10小时前 • 283k • 2.99k(https://huggingface.co/google/embeddinggemma-2)
引用本文的数据集0
暂无关联此论文的数据集
在数据集的 README.md 中引用 arxiv.org/abs/2610.37364 即可在此页面关联该数据集。
引用本文的 Spaces46
浏览 46 个引用此论文的 Spaces(https://huggingface.co/spaces?arxivIds=2610.37364)
包含此论文的合集1
相似文章
EmbeddingGemma 2:一款开源、轻量级的多模态嵌入模型
Google DeepMind 推出 EmbeddingGemma 2,这是一款拥有 740M 参数的开源(Apache 2.0)多模态嵌入模型,将文本、代码、图像、视频和音频统一到共享嵌入空间中,并针对端侧推理进行了优化。该模型基于 Gemma 4 架构构建,支持 8K 上下文,并采用 Matryoshka 截断以提升存储效率。
Google EmbeddingGemma 2
Google DeepMind发布了EmbeddingGemma 2,这是一个开源的轻量级多模态嵌入模型,可将文本、代码、图像、视频和音频映射到同一共享空间,740M参数可在设备端运行,并采用Apache 2.0许可。
@GoogleDeepMind:认识 EmbeddingGemma 2,这是我们的首个原生多模态端侧嵌入开源模型。它从文本扩展到统一……
Google DeepMind 发布 EmbeddingGemma 2,这是其首个原生多模态开源嵌入模型,支持在统一向量空间中处理代码、图像、音频和视频,面向端侧设备部署。
google/embeddinggemma-2 · Hugging Face
Google DeepMind 发布了 EmbeddingGemma 2,这是一款开放的多模态嵌入模型(7.4 亿参数),可将文本、图像、视频和音频映射到统一的 768 维向量空间,专为端侧搜索、RAG 和分类任务设计,并支持 Matryoshka 截断以降低存储成本。
unsloth/embeddinggemma-2-GGUF
Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数的开源多模态嵌入模型,支持文本、图像、视频和音频统一到 768 维向量空间,专为消费级硬件上的搜索、RAG、分类等任务设计;Unsloth 同时提供了 GGUF 量化版本。