标签
ASUS、Dell 和 MSI 推出的 NVIDIA RTX Spark 紧凑型台式机现已上市,最高配备 128GB 统一内存、Blackwell RTX GPU 和 1 petaflop AI 性能,可在专用 Windows PC 上运行本地智能体、1200 亿参数大语言模型、模型微调及创作负载。
一项新的研究称,中国领先的开源权重 AI 模型(包括 DeepSeek V4 和月之暗面的 Kimi K3)是在被禁出口的 Nvidia Blackwell GPU 上训练的,凸显了芯片走私的规模以及美国出口管制的局限性。
NVIDIA 发布 RTX Spark 笔记本,将 Grace CPU 与 Blackwell GPU 封装在同一芯片上,共享最高 128GB 统一内存,AI 算力达 1 petaflop FP4,面向本地大模型运行场景。
一位 Reddit 用户称,戴尔目前正在销售搭载 RTX 6000 Pro Blackwell 工作站 GPU 的台式机,整机售价约为 1.2 万美元。算上折扣和返利后,仅 GPU 的净成本可能降至约 1 万美元——在 GPU 需求旺盛的背景下,这一价格低得不同寻常。
ISTA-DASLab 发布了 Qwen3.8-27B 的 NVFP4 量化版本,通过从 SSD 流式读取的 prefiller 模型在低 VRAM 下恢复低比特量化精度,且在超过约 4k 的上下文长度下无明显速度损失,需要 Nvidia Blackwell GPU。
作者发布了一个免费、代码优先的 GPU 内核工程系列课程(共 44 节)的介绍与路线图视频,从朴素 GEMM 讲到 FlashAttention,覆盖 Hopper 与 Blackwell 架构,并以 roofline 模型和数据移动为核心教学理念。
Basalt 推理工具新增原生 NVFP4 支持与更快的 Prefill,可在单张 RTX 5090 上运行 Qwen3.8 Flash-Next,解码速度最高达 479 tok/s,Prefill 速度达 8,582 tok/s,同时质量接近 Q8 水平。
NVIDIA RTX Spark 笔记本现已在全球上市,搭载 Blackwell RTX GPU 和 Grace CPU,AI 算力最高可达 1 petaflop,并配备 128GB 统一内存,各大 PC 厂商起售价 2,399 美元。NVIDIA 通过全球发布活动进行热烈庆祝,其中包括 CEO 黄仁勋在灯光节期间惊喜亮相柏林。
一位社区成员对 Ninfer6000(针对 RTX Pro 6000 Blackwell 和 Qwen3.8-Flash-Next 调优的 Ninfer 分支)与 vLLM 和 llama.cpp 进行了基准测试,发现其解码速度约为 vLLM 的 1.6 倍、llama.cpp 的 2.2 倍,准确率几乎相同;但他表示,在实际使用中,工具调用存在严重的格式错误,导致其无法正常使用,因此仍继续使用 vLLM。
微软与英伟达联合发布首批 RTX Spark 笔记本,并大幅优化 Windows 以支持 Arm 架构、Blackwell GPU 与本地 AI 智能体,用户可通过 Windows Store 两步安装 Hermes、Perplexity、OpenClaw 等智能体,同时借助 Prism 模拟器改进 x64 应用兼容性与游戏性能。
NVIDIA 宣布多项英国生态合作与投资,包括五年2.5亿美元的 agentic 安全研究投入、与 Earthshot Prize 的合作,以及 Fuse Energy、Locai Labs、OneAdvanced、Speechmatics、Danaher、利物浦城市等企业与机构在能源、医疗、智慧城市等领域的全面部署。
Basalt 是一个为 Qwen 3.8 Flash Next 定制的推理引擎,从 Strata 分叉而来并针对 Blackwell 深度调优。它引入了动态视觉编码:空闲时将图像编码器保存在 RAM 中以节省 VRAM,仅在有图像输入时才上传到显存,对文本推理的开销几乎为零。团队还公开了相关 commit hash,方便开发者将该技术移植到自己的推理引擎中。
Decapybara 是 MegaCapybara LLM 推理服务器的开源 C++20 与 CUDA 重构实现,面向 NVIDIA RTX 5090 Blackwell 硬件,支持 OpenAI 与 Anthropic 兼容 API、分层 KV 缓存及一整套 Blackwell CUDA 内核。
Basalt 是一个专为 Blackwell 架构(5090 + 5060 Ti)深度优化的 Strata 分支推理引擎,据称吞吐量可达 Strata 的 2.6 倍,支持 Qwen3.8 Flash-Next、MTP、最多 8 路并发以及自定义视觉编码器,以 MIT 协议完全开源。
微软发布 Surface Laptop Ultra,搭载 NVIDIA RTX Spark Superchip 和 Blackwell RTX 显卡,最高配备 128GB 统一内存,可在本地运行高达 120B 参数的 AI 模型,面向开发者、创作者和 AI 爱好者。
一条推文指出,在使用张量并行度 4 时,于 SM120 上启用 CustomAllReduce,可以让 Blackwell GPU 免费获得约 5% 的每秒 token 性能提升,并开玩笑说封闭的实验室恨透了这个技巧。
为 NVIDIA Blackwell(B200)手写的 GEMM kernel,基于 CUTLASS 的 CuTeDSL 从底层原语(tcgen05、TMA、mbarriers、TMEM)构建,性能从 164 提升到 1401 TFLOP/s——约为 cuBLAS 的 97%。其中一项关键改动贡献了大部分性能提升,而 prefill 和 decode 两种工作负载所需的优化方向并不相同。
一位用户在 Blackwell MaxQ 显卡上测试了全新的 Ninfer 推理后端,在 qwen3.8-27b-nvfp4 模型上跑出 130-180 t/s 的速度,并发解码时几乎没有减速——他表示并发能力堪比 vLLM,吞吐远超 llama-server,即便是在 Windows 10 上安装之后也是如此。
OpenAI 的 GPT-6 Astra Ultrafast 模式运行在 NVIDIA Blackwell GPU 上,现已通过 OpenAI API 提供,并向符合条件的 ChatGPT Work 和 Codex 用户开放,其 token 生成速度比 Astra 标准模式最高快 8 倍。OpenAI 表示,其利用自有模型优化 NVIDIA 硬件上的推理内核,从而提升延迟、吞吐量表现并降低成本,助力智能体化编程工作流。
发布针对NVIDIA Blackwell GPU优化的Qwen3.8-27B-DFlash2模型的量化版本,实现类似的解码速度和输出质量,显存使用减少2.6倍,并扩展上下文长度。