@mervenoyann: NVIDIA Nemotron Ultra 来了 > 55B/550B 混合MoE  百万上下文窗口 > 支持MTP推测解码 > da…
摘要
NVIDIA发布了Nemotron Ultra,这是一个拥有55B/550B参数的混合MoE模型,具有百万上下文窗口,支持MTP推测解码,并在transformers中提供day-0支持。
查看缓存全文
缓存时间: 2026/06/05 05:10
NVIDIA Nemotron Ultra 来了 😍
55B/550B 混合 MoE 模型 🦖,拥有 1M 上下文窗口 支持 MTP 推测解码 💨 在 transformers 中首日即支持
在 AA Index 的性能/效率象限中处于最具吸引力的位置 🔥 https://t.co/MGsP3DqEcd
相似文章
nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-NVFP4
NVIDIA 发布 Nemotron-3-Ultra,一个拥有 5500 亿参数的开源权重模型,采用结合 Mamba-2、MoE 和注意力的混合架构,支持高达 100 万 token 的上下文长度和可配置的推理模式。
nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16 · Hugging Face
NVIDIA发布Nemotron-3-Ultra-550B-A55B,这是一个5500亿参数(550亿活跃参数)的前沿大语言模型,采用混合LatentMoE架构,结合Mamba-2、MoE和注意力层,支持高达100万令牌的上下文长度和可配置的推理模式。它支持11种语言,并针对复杂的智能体工作流、长上下文分析和高精度推理进行了优化。
nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4
NVIDIA released Nemotron 3.5 Lightning 30B-A3B-NVFP4, a hybrid MoE LLM with 3B active parameters, up to 1M context, and speculative decoding support for efficient single-GPU inference.
@heyshrutimishra:NVIDIA 刚刚发布了 Nemotron 3.5 Lightning,300 亿参数,只有 30 亿激活,专为执行层打造…
NVIDIA 发布了 Nemotron 3.5 Lightning,这是一个拥有 300 亿参数的 MoE 模型,只有 30 亿激活参数,针对智能体执行任务进行了优化。它声称在保持 OpenMDW-1.1 完全开源的同时,实现更快、更便宜的工具调用和智能体执行。
NVIDIA Nemotron 3 Ultra 已发布。
NVIDIA 发布了 Nemotron 3 Ultra,这是一款新模型,旨在为长期运行的 AI 智能体提供更快、更高效的推理能力。