EmbeddingGemma 2:统一且高效的多模态表示

Hugging Face Daily Papers 论文

摘要

Google 推出 EmbeddingGemma 2,一个统一文本、图像、音频与视频表示的开源多模态嵌入模型,采用简化逐层嵌入与多阶段训练课程,在各模态基准上建立新的帕累托前沿,性能超越大 2 至 12 倍的模型。

我们提出 EmbeddingGemma 2,一个原生在统一空间中表示文本、图像、音频、视频及其组合的开源多模态嵌入模型。我们的方法引入了多项改进,例如简化的逐层嵌入以及按模态和目标逐步递进的多阶段训练课程,从而在单模态、跨模态和混合模态评估中均能保证出色的质量。值得注意的是,在涵盖所有模态的综合嵌入基准测试中,EmbeddingGemma 2 建立了新的帕累托前沿,性能超越了专业模型以及规模大 2 至 12 倍的模型。此外,我们的设计为资源受限的环境提供了灵活性,支持选择性加载模态编码器、可调节的视觉 token 预算、可截断的嵌入维度以及量化权重。我们通过消融实验分析了各项关键设计决策,并开源发布 EmbeddingGemma 2 以推动进一步研究。
查看原文
查看缓存全文

缓存时间: 2026/10/28 17:28

论文页面 - EmbeddingGemma 2:统一且高效的多模态表示

来源:https://huggingface.co/papers/2610.37364 作者:

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

,

摘要

EmbeddingGemma 2 是一个开放的多模态嵌入模型,以高效的资源灵活设计和最先进的基准性能统一了文本、图像、音频和视频表示。

我们提出了 EmbeddingGemma 2,这是一个开放的多模态嵌入模型(https://huggingface.co/papers?q=multimodal%20embedding%20model),能够在统一空间中对文本、图像、音频、视频及其组合进行原生表示。我们的方法引入了多项改进,包括简化的逐层嵌入(https://huggingface.co/papers?q=per-layer%20embeddings)以及带有模态和目标渐进的多阶段课程学习(https://huggingface.co/papers?q=multi-stage%20curriculum),确保在单模态、跨模态(https://huggingface.co/papers?q=cross-modal)和混合模态(https://huggingface.co/papers?q=mixed-modal)评估中均具有优异的质量。值得一提的是,在涵盖所有模态的综合嵌入基准测试中,EmbeddingGemma 2 确立了新的帕累托最优前沿(https://huggingface.co/papers?q=Pareto%20frontier),超越了专用模型以及规模大二至十二倍的模型。此外,我们的设计为资源受限的环境提供了灵活性,支持选择性模态编码器加载(https://huggingface.co/papers?q=selective%20modality%20encoder%20loading)、可调节的视觉token预算(https://huggingface.co/papers?q=vision%20token%20budgets)、可截断的嵌入维度(https://huggingface.co/papers?q=truncatable%20embedding%20dimensions)以及量化权重(https://huggingface.co/papers?q=quantized%20weights)。我们提供了分析关键设计决策的消融实验,并发布 EmbeddingGemma 2 以促进进一步研究。

查看 arXiv 页面(https://arxiv.org/abs/2610.37364)查看 PDF(https://arxiv.org/pdf/2610.37364)添加到收藏(https://huggingface.co/login?next=%2Fpapers%2F2610.37364)

在你的 agent 中获取此论文:

hf papers read 2610\.37364

没有最新版 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用本文的模型1

google/embeddinggemma-2 特征提取 • 0.7B • 更新于约10小时前 • 283k • 2.99k(https://huggingface.co/google/embeddinggemma-2)

引用本文的数据集0

暂无关联此论文的数据集

在数据集的 README.md 中引用 arxiv.org/abs/2610.37364 即可在此页面关联该数据集。

引用本文的 Spaces46

浏览 46 个引用此论文的 Spaces(https://huggingface.co/spaces?arxivIds=2610.37364)

包含此论文的合集1

相似文章

EmbeddingGemma 2:一款开源、轻量级的多模态嵌入模型

Google DeepMind Blog

Google DeepMind 推出 EmbeddingGemma 2,这是一款拥有 740M 参数的开源(Apache 2.0)多模态嵌入模型,将文本、代码、图像、视频和音频统一到共享嵌入空间中,并针对端侧推理进行了优化。该模型基于 Gemma 4 架构构建,支持 8K 上下文,并采用 Matryoshka 截断以提升存储效率。

Google EmbeddingGemma 2

Product Hunt

Google DeepMind发布了EmbeddingGemma 2,这是一个开源的轻量级多模态嵌入模型,可将文本、代码、图像、视频和音频映射到同一共享空间,740M参数可在设备端运行,并采用Apache 2.0许可。

google/embeddinggemma-2 · Hugging Face

Reddit r/LocalLLaMA

Google DeepMind 发布了 EmbeddingGemma 2,这是一款开放的多模态嵌入模型(7.4 亿参数),可将文本、图像、视频和音频映射到统一的 768 维向量空间,专为端侧搜索、RAG 和分类任务设计,并支持 Matryoshka 截断以降低存储成本。

unsloth/embeddinggemma-2-GGUF

Hugging Face Models Trending

Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数的开源多模态嵌入模型,支持文本、图像、视频和音频统一到 768 维向量空间,专为消费级硬件上的搜索、RAG、分类等任务设计;Unsloth 同时提供了 GGUF 量化版本。