EmbeddingGemma 2 通过 WebGPU 在浏览器本地运行

Reddit r/LocalLLaMA 2026/10/06 16:20 模型

embedding-model webgpu in-browser google open-weights embeddings

摘要

Google 的 EmbeddingGemma 2 嵌入模型现已通过 WebGPU 在浏览器本地运行，并配有 Hugging Face 模型页面以及一个交互式 Web 演示，展示设备端推理效果。

模型：https://huggingface.co/google/embeddinggemma-2 演示：https://huggingface.co/spaces/webml-community/embeddinggemma-2-webgpu

查看原文

相似文章

Gemma 4 E2B 在浏览器中运行，使用Fable 5编写的WebGPU内核，速度达255 tok/s

Reddit r/LocalLLaMA

Gemma 4被演示在浏览器中通过WebGPU以每秒255个token的速度运行，使用Fable 5生成的内核，展示了高效的设备端推理。

EmbeddingGemma 2：一款开源、轻量级的多模态嵌入模型

Google DeepMind Blog

Google DeepMind 推出 EmbeddingGemma 2，这是一款拥有 740M 参数的开源（Apache 2.0）多模态嵌入模型，将文本、代码、图像、视频和音频统一到共享嵌入空间中，并针对端侧推理进行了优化。该模型基于 Gemma 4 架构构建，支持 8K 上下文，并采用 Matryoshka 截断以提升存储效率。

google/embeddinggemma-2 · Hugging Face

Reddit r/LocalLLaMA

Google DeepMind 发布了 EmbeddingGemma 2，这是一款开放的多模态嵌入模型（7.4 亿参数），可将文本、图像、视频和音频映射到统一的 768 维向量空间，专为端侧搜索、RAG 和分类任务设计，并支持 Matryoshka 截断以降低存储成本。

@Saboo_Shubham_：这是 Google 的 Embedding Gemma 2，可 100% 免费在 Mac 上本地运行。

X AI KOLs Timeline

Google 的 Embedding Gemma 2 嵌入模型现已可在 Mac 上 100% 免费本地运行，实现隐私安全且零成本的文本嵌入工作流。