有人有4GB的"Gemini Nano"模型的GGUF吗?
摘要
用户询问Chrome为设备端功能静默下载的约4GB AI模型(可能是Gemini Nano)的具体身份,并请求获得GGUF版本以便通过llama.cpp本地运行。
大家好,我看到一篇文章说Chrome会静默下载一个约4GB的AI模型(很可能是"Gemini Nano")到您的电脑上,用于文本摘要等功能。有两个问题:1. 这个模型的确切名称/版本是什么?2. 是否有可下载的**GGUF**文件,以便我可以用llama.cpp在本地运行它?我想在本地使用,而不是让Chrome在后台运行它。谢谢!
相似文章
@_ar9av: 所以谷歌似乎将 Gemini Nano 4B 大语言模型(上下文限制:9216 tokens)内置于 Chrome 中。我尝试将其暴露出来……
一位开发者发现谷歌将 Gemini Nano 4B 大语言模型内置到 Chrome 中,并创建了一个兼容 OpenAI 的 API 封装用于本地使用,无需 API 密钥或外部网络调用。
Jiunsong/supergemma4-26b-uncensored-gguf-v2
SuperGemma4-26B-Uncensored-Fast GGUF v2 是 Google Gemma-4-26B 模型的量化、本地可运行变体,针对 Apple Silicon 进行了优化,提供更快的推理速度和较少审查的聊天行为,同时在通用任务上保持实用性能。
你猜怎么着?如果你是Chrome用户,从技术上讲,你就是localllama成员!
Google Chrome正在悄悄地在用户设备上安装一个4GB的Gemini Nano AI模型,未获得明确同意,也没有退出的用户界面,引发了重大的隐私、法律和环境问题。
直接在PC上运行Chrome的小型Gemma4(即Gemini Nano),无需GPU
一位开发者创建了一个名为Dobby的Chrome扩展程序,可以在PC上本地运行谷歌的Gemma4(Gemini Nano),无需GPU,只需Chrome和16GB内存。该扩展提供了一个简单的界面,用于与模型交互,完成拼写检查或摘要等任务。
在 24 GB Mac 的浏览器标签页中运行 Gemma 4 26B-A4B 和 37 GB 的 Qwen3.6 MoE —— 专家权重从磁盘流式加载,输出与 llama.cpp 一致
LocalMind 进行了更新:在浏览器标签页中通过 WebGPU 生成时,从磁盘流式加载混合专家(mixture-of-experts)权重,使一台 24 GB 的 Mac 能够运行 14.4 GB 的 Gemma 4 26B-A4B,甚至 37 GB 的 Qwen3.6 模型,且输出与在相同 GGUF 文件上运行的 llama.cpp 一致。