NVIDIA Nemotron 3.5 Bolt E4B 4GB（基于 Gemma 4 E4B 后训练）
摘要
NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB，这是一个基于 Gemma 4 E4B 进行后训练的模型，具备多轮智能体和对话能力，针对在 RTX、Jetson 和 DGX Spark 设备上的运行进行了优化，宣称质量比同类模型高约 40%，输出 token 数量减少约 80%。
Bolt E4B 在 Gemma 4 E4B 的基础上通过 Nemotron 后训练进行了增强。它将自然对话与多轮智能体能力相结合，可为运行在 NVIDIA GeForce RTX、Jetson、RTX Spark 和 DGX Spark 上的语音/设备助手、交互式角色以及机器人/IoT 接口提供支持。在关键对话智能体基准测试中，Bolt E4B 的平均质量比我们之前的模型高出约 40%，同时输出 token 数量比同类模型减少多达约 80%。HF 链接：https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB Nvidia 官方发布：https://research.nvidia.com/labs/nemotron/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB
相似文章
nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB
NVIDIA 发布 Nemotron-3.5-Bolt-E4B-4GB，一款基于 Gemma-4-E4B-it 后训练的小语言模型（8B 总参数、4B 有效参数，Q4_K_M 量化），专为低内存、低首字延迟的本地语音助手与嵌入式边缘场景优化，采用 OpenMDW-1.1 开放许可。
从 RTX 到 Spark：NVIDIA 加速 Gemma 4 赋能本地智能体 AI
NVIDIA 与谷歌合作优化 Gemma 4 模型，以实现在 RTX GPU、DGX Spark 和 Jetson 设备上的本地部署，从而支持高效的端侧智能体 AI，具备推理、编程、多模态能力以及 35 多种语言的支持。
unsloth/NVIDIA-Nemotron-3.5-Bolt-E4B-GGUF
Unsloth 发布 NVIDIA Nemotron 3.5 Bolt E4B 的 GGUF 量化版本（Q4_K_M），这是一个基于 Gemma-4-E4B-it 进一步后训练的小语言模型（SLM），专为低内存、低首字延迟的本地语音助手与嵌入式/边缘设备场景优化。
nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4
NVIDIA 发布 Nemotron-3-Ultra，一个拥有 5500 亿参数的开源权重模型，采用结合 Mamba-2、MoE 和注意力的混合架构，支持高达 100 万 token 的上下文长度和可配置的推理模式。
@googlegemma: Gemma 4 E2B 在英特尔AI PC上运行速度超快，得益于OpenVINO上的LiteRT NPU支持！预填充性能提升1.3倍……
Gemma 4 E2B 在采用OpenVINO与LiteRT NPU支持的英特尔AI PC上，实现了预填充速度提升1.3倍、每瓦性能提升2.8倍，从而能够高效运行后台LLM任务。