标签
一位美国 GPU 维修技术人员声称,存在配备 64GB 和 96GB 显存的 NVIDIA RTX 5090 版本,这表明这款 Blackwell 消费级显卡可能有专业级或工作站版本。
有人发布了名为 'gpu-unlock' 的开源工具,声称可移除英伟达对 GeForce 显卡的软件限制,使 RTX 3060/3090/4090 的算力大幅提升,并显著加速图像生成、模型微调与 LLM 推理等 AI 负载。
NVIDIA 发布了 NemotronLabs RE-USE,这是一款拥有 960 万参数的多语言通用语音增强模型,能够在各种音质劣化条件和采样率下恢复语音质量,性能超越规模更大的开源 USE 模型,同时可用于商业用途。
NVIDIA 及其全球合作伙伴正在扩大面向城市服务的物理 AI 和智能体 AI 部署,涵盖居民服务智能体、视觉智能体及数字孪生,并在西班牙、美国、波兰和马来西亚使用 Cosmos、Nemotron、Omniverse 和 Metropolis。
NVIDIA 推出 Cosmos 框架,这是一个开放的模块化平台,用于训练、后训练、优化和部署面向物理 AI 的世界基础模型,涵盖 DPO、GRPO、PPO 等强化学习管线,并通过 Cosmos NIM 微服务进行模型服务化部署。
一篇关于 NVIDIA 的 TriAttention 研究的讨论,该研究聚焦于 vLLM 中的 KV 缓存压缩,认为真正的收益来自释放 GPU 内存块,而非逐出 token。据报告,解码速度提升至 2.5 倍,KV 缓存内存占用降至原来的 1/10.7。
据称 Amazon 正在取消 GPU 和计算硬件订单,并在某些情况下直接关闭客户账户,Epic 的 Tim Sweeney 就是受影响的用户之一。目前尚不清楚这些取消订单的行为是源于系统故障,还是在 AI 硬件需求高涨背景下推出的反黄牛政策。
AMD 正投入大量工程和算力资源向 vLLM 倾斜,以绕开 NVIDIA 的 CUDA 护城河,推动推理软件标准化、摆脱特定硬件绑定,从而让整个生态受益但双方回报不对称。
一条推文猜测 NVIDIA 将停产 RTX 5090,并引用了一项说法,称已确认 RTX 5090 将有 64GB 和 96GB 版本。
NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB,这是一个基于 Gemma 4 E4B 进行后训练的模型,具备多轮智能体和对话能力,针对在 RTX、Jetson 和 DGX Spark 设备上的运行进行了优化,宣称质量比同类模型高约 40%,输出 token 数量减少约 80%。
一篇万圣节博客文章展示了如何使用 NVIDIA 开源的 Nemotron 模型构建互动式'MonsterHouse'鬼屋,将 ASR(语音识别)、小型语言模型、零样本 TTS(文本转语音)和 Audio2Face-3D 结合起来,在单个工作站上让一扇脾气暴躁的车库门与来讨糖的孩子们对话。
Breakthrough Listen(突破聆听)计划和 SETI 研究所正在艾伦望远镜阵列上部署由 NVIDIA Holoscan 驱动的智能体 AI,以自主控制望远镜,并实时处理每秒数太比特的传感器数据——目前已首次实现利用 AI 实时探测到蟹状星云中的脉冲星。
NVIDIA 发布 RTX Spark 笔记本,将 Grace CPU 与 Blackwell GPU 封装在同一芯片上,共享最高 128GB 统一内存,AI 算力达 1 petaflop FP4,面向本地大模型运行场景。
NVIDIA 发布 Metatron v1,这是一种统一的宇树 G1 人形机器人控制策略,将行走、场景交互与恢复整合到单一的 MaskedMimic 风格 Transformer 学生模型中,并提供原生 PyTorch 检查点与面向浏览器的 ONNX 导出。
NVIDIA 发布了 AlpaJudge——一系列用于评估自动驾驶推理的学习型评判模型,其基于参考和免参考的检查点已在 Hugging Face 上以 OpenMDW-1.1 许可证开源提供。
一台配备 96GB 显存 NVIDIA GPU 的完整戴尔工作站,价格可能比单独购买这张显卡还低,凸显出高端 GPU 市场定价格局的变化。
人工智能热潮催生了一种被称为“暗 GPU”的新现象——大量英伟达 AI 芯片,包括亚马逊持有的芯片,闲置在仓库中,因为目前还没有足够的电力基础设施为它们供电。
一位 Reddit 用户称,戴尔目前正在销售搭载 RTX 6000 Pro Blackwell 工作站 GPU 的台式机,整机售价约为 1.2 万美元。算上折扣和返利后,仅 GPU 的净成本可能降至约 1 万美元——在 GPU 需求旺盛的背景下,这一价格低得不同寻常。
Rohan Paul 引用 Epoch AI 的数据指出,正在使用的 AI 芯片的总算力每年增至原来的 3.4 倍,但他警告说,如果新芯片采购量的增长放缓至每年增至原来的 2.5 倍,整体算力的增长也会随之放缓。
@NVIDIARTXSpark 分享了三种加速 NVIDIA DGX Spark 上混合专家模型(MoE)推理的技术,涵盖优化内核、FP8 量化和多 token 预测,以提升每秒 token 吞吐量。