@FinanceYF5: NVIDIA发布Nemotron 3.5 Lightning 30B 总参数,激活只有 3B,支持 100 万 token 上下文,可商用。 本地部署友好:BF16 和更小的 NVFP4 版本,单卡 H100 或 DGX Spark 就能…

X AI KOLs Following 模型

摘要

NVIDIA 发布 Nemotron 3.5 Lightning 30B 模型,总参数30B,激活仅3B,支持100万token上下文,可商用,本地部署友好,输出速度最高提升4倍。

NVIDIA发布Nemotron 3.5 Lightning 30B 总参数,激活只有 3B,支持 100 万 token 上下文,可商用。 本地部署友好:BF16 和更小的 NVFP4 版本,单卡 H100 或 DGX Spark 就能跑,RTX 5090 也在支持列表里。 官方称输出速度最高提升 4 倍,PinchBench 上准确率 86%,比同准确率的 Qwen3.6 35B 快 30%。 https://t.co/KbbCAWfuF5
查看原文
查看缓存全文

缓存时间: 2026/08/12 10:24

NVIDIA发布Nemotron 3.5 Lightning

30B 总参数,激活只有 3B,支持 100 万 token 上下文,可商用。

本地部署友好:BF16 和更小的 NVFP4 版本,单卡 H100 或 DGX Spark 就能跑,RTX 5090 也在支持列表里。

官方称输出速度最高提升 4 倍,PinchBench 上准确率 86%,比同准确率的 Qwen3.6 35B 快 30%。 https://t.co/KbbCAWfuF5

相似文章

nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4

Hugging Face Models Trending

NVIDIA released Nemotron 3.5 Lightning 30B-A3B-NVFP4, a hybrid MoE LLM with 3B active parameters, up to 1M context, and speculative decoding support for efficient single-GPU inference.

Nvidia 发布 Nemotron 3.5 Super VL(5 分钟阅读)

TLDR AI

NVIDIA 发布 Nemotron 3.5 Super VL,一款 120B 参数的多模态混合专家(MoE)模型,每 token 激活 12B 参数,面向企业级智能体工作流,支持文本、图像、文档和视频理解,单 GPU 上吞吐量较同类开源模型提升高达 5 倍,并可通过 NeMo 进行后训练定制。