blackwell

标签

Cards List
#blackwell

NVIDIA RTX Spark 紧凑型台式机现已上市

NVIDIA Blog ↗ · 2天前 缓存

ASUS、Dell 和 MSI 推出的 NVIDIA RTX Spark 紧凑型台式机现已上市,最高配备 128GB 统一内存、Blackwell RTX GPU 和 1 petaflop AI 性能,可在专用 Windows PC 上运行本地智能体、1200 亿参数大语言模型、模型微调及创作负载。

0 人收藏 0 人点赞
#blackwell

被禁出口的 Nvidia 芯片支撑着中国最强大的 AI 模型——这下麻烦了,黄仁勋!

TechCrunch AI ↗ · 2026-11-13 缓存

一项新的研究称,中国领先的开源权重 AI 模型(包括 DeepSeek V4 和月之暗面的 Kimi K3)是在被禁出口的 Nvidia Blackwell GPU 上训练的,凸显了芯片走私的规模以及美国出口管制的局限性。

0 人收藏 0 人点赞
#blackwell

NVIDIA RTX Spark:Grace CPU 与 Blackwell GPU 集成于同一封装,最高支持 128GB 共享内存

Reddit r/ArtificialInteligence ↗ · 2026-10-30

NVIDIA 发布 RTX Spark 笔记本,将 Grace CPU 与 Blackwell GPU 封装在同一芯片上,共享最高 128GB 统一内存,AI 算力达 1 petaflop FP4,面向本地大模型运行场景。

0 人收藏 0 人点赞
#blackwell

现在你可以花1.2万从戴尔买到一台 RTX 6000 Pro 工作站。

Reddit r/LocalLLaMA ↗ · 2026-10-30

一位 Reddit 用户称,戴尔目前正在销售搭载 RTX 6000 Pro Blackwell 工作站 GPU 的台式机,整机售价约为 1.2 万美元。算上折扣和返利后,仅 GPU 的净成本可能降至约 1 万美元——在 GPU 需求旺盛的背景下,这一价格低得不同寻常。

0 人收藏 0 人点赞
#blackwell

通过使用从 SSD 流式读取的 prefiller 模型提升 Qwen3.8-27B 低比特量化效果

Reddit r/LocalLLaMA ↗ · 2026-10-20

ISTA-DASLab 发布了 Qwen3.8-27B 的 NVFP4 量化版本,通过从 SSD 流式读取的 prefiller 模型在低 VRAM 下恢复低比特量化精度,且在超过约 4k 的上下文长度下无明显速度损失,需要 Nvidia Blackwell GPU。

0 人收藏 0 人点赞
#blackwell

开源 GPU 内核工程系列:从朴素 GEMM 到 FlashAttention,H100 与 Blackwell(共 44 节,代码公开)[P]

Reddit r/MachineLearning ↗ · 2026-10-19

作者发布了一个免费、代码优先的 GPU 内核工程系列课程(共 44 节)的介绍与路线图视频,从朴素 GEMM 讲到 FlashAttention,覆盖 Hopper 与 Blackwell 架构,并以 roofline 模型和数据移动为核心教学理念。

0 人收藏 0 人点赞
#blackwell

Basalt:在单张 5090 上为 Qwen3.8 Flash-Next 加入 NVFP4 支持与更快的 Prefill

Reddit r/LocalLLaMA ↗ · 2026-10-18

Basalt 推理工具新增原生 NVFP4 支持与更快的 Prefill,可在单张 RTX 5090 上运行 Qwen3.8 Flash-Next,解码速度最高达 479 tok/s,Prefill 速度达 8,582 tok/s,同时质量接近 Q8 水平。

0 人收藏 0 人点赞
#blackwell

RTX Spark 点燃全球庆典,全新 Windows PC 震撼登场

NVIDIA Blog ↗ · 2026-10-17 缓存

NVIDIA RTX Spark 笔记本现已在全球上市,搭载 Blackwell RTX GPU 和 Grace CPU,AI 算力最高可达 1 petaflop,并配备 128GB 统一内存,各大 PC 厂商起售价 2,399 美元。NVIDIA 通过全球发布活动进行热烈庆祝,其中包括 CEO 黄仁勋在灯光节期间惊喜亮相柏林。

0 人收藏 0 人点赞
#blackwell

Qwen3.8FN vLLM vs. llama.cpp vs Ninfer6000

Reddit r/LocalLLaMA ↗ · 2026-10-15

一位社区成员对 Ninfer6000(针对 RTX Pro 6000 Blackwell 和 Qwen3.8-Flash-Next 调优的 Ninfer 分支)与 vLLM 和 llama.cpp 进行了基准测试,发现其解码速度约为 vLLM 的 1.6 倍、llama.cpp 的 2.2 倍,准确率几乎相同;但他表示,在实际使用中,工具调用存在严重的格式错误,导致其无法正常使用,因此仍继续使用 vLLM。

0 人收藏 0 人点赞
#blackwell

Windows 如何为英伟达 RTX Spark 笔记本进行优化

The Verge ↗ · 2026-10-15 缓存

微软与英伟达联合发布首批 RTX Spark 笔记本,并大幅优化 Windows 以支持 Arm 架构、Blackwell GPU 与本地 AI 智能体,用户可通过 Windows Store 两步安装 Hermes、Perplexity、OpenClaw 等智能体,同时借助 Prism 模拟器改进 x64 应用兼容性与游戏性能。

0 人收藏 0 人点赞
#blackwell

从企业到地球宏愿:英国生态在 NVIDIA 助力下从愿景走向落地

NVIDIA Blog ↗ · 2026-10-14 缓存

NVIDIA 宣布多项英国生态合作与投资,包括五年2.5亿美元的 agentic 安全研究投入、与 Earthshot Prize 的合作,以及 Fuse Energy、Locai Labs、OneAdvanced、Speechmatics、Danaher、利物浦城市等企业与机构在能源、医疗、智慧城市等领域的全面部署。

0 人收藏 0 人点赞
#blackwell

Basalt:为 Qwen 3.8 Flash Next 打造的 Blackwell 高速推理引擎(以及如何白嫖视觉能力)

Reddit r/LocalLLaMA ↗ · 2026-10-13

Basalt 是一个为 Qwen 3.8 Flash Next 定制的推理引擎,从 Strata 分叉而来并针对 Blackwell 深度调优。它引入了动态视觉编码:空闲时将图像编码器保存在 RAM 中以节省 VRAM,仅在有图像输入时才上传到显存,对文本推理的开销几乎为零。团队还公开了相关 commit hash,方便开发者将该技术移植到自己的推理引擎中。

0 人收藏 0 人点赞
#blackwell

GitHub - giveen/Decapybara:MegaCapybara 推理服务器的开源 C++20 与 CUDA 重构实现

Reddit r/LocalLLaMA ↗ · 2026-10-11 缓存

Decapybara 是 MegaCapybara LLM 推理服务器的开源 C++20 与 CUDA 重构实现,面向 NVIDIA RTX 5090 Blackwell 硬件,支持 OpenAI 与 Anthropic 兼容 API、分层 KV 缓存及一整套 Blackwell CUDA 内核。

0 人收藏 0 人点赞
#blackwell

Basalt:Flash-Next 在 5090 + 5060 Ti 上实现 665 tok/s 结构化输出、354 tok/s 散文输出(Strata 的 2.6 倍)

Reddit r/LocalLLaMA ↗ · 2026-10-10

Basalt 是一个专为 Blackwell 架构(5090 + 5060 Ti)深度优化的 Strata 分支推理引擎,据称吞吐量可达 Strata 的 2.6 倍,支持 Qwen3.8 Flash-Next、MTP、最多 8 路并发以及自定义视觉编码器,以 MIT 协议完全开源。

0 人收藏 0 人点赞
#blackwell

Microsoft Surface Laptop Ultra

Product Hunt ↗ · 2026-10-08 缓存

微软发布 Surface Laptop Ultra,搭载 NVIDIA RTX Spark Superchip 和 Blackwell RTX 显卡,最高配备 128GB 统一内存,可在本地运行高达 120B 参数的 AI 模型,面向开发者、创作者和 AI 爱好者。

0 人收藏 0 人点赞
#blackwell

@TheAhmadOsman:在 Blackwell GPU 上用这一招额外提升 5% 的 token/s——封测实验室恨死我们发现这些技巧了,因为……

X AI KOLs Timeline ↗ · 2026-10-03 缓存

一条推文指出,在使用张量并行度 4 时,于 SM120 上启用 CustomAllReduce,可以让 Blackwell GPU 免费获得约 5% 的每秒 token 性能提升,并开玩笑说封闭的实验室恨透了这个技巧。

0 人收藏 0 人点赞
#blackwell

@KyrieBlunders:用 CuTeDSL 手写了一个 Blackwell GEMM,在 B200 上从 164 提升到 1401 TFLOP/s,约为 cuBLAS 的 97%

X AI KOLs Timeline ↗ · 2026-10-02 缓存

为 NVIDIA Blackwell(B200)手写的 GEMM kernel,基于 CUTLASS 的 CuTeDSL 从底层原语(tcgen05、TMA、mbarriers、TMEM)构建,性能从 164 提升到 1401 TFLOP/s——约为 cuBLAS 的 97%。其中一项关键改动贡献了大部分性能提升,而 prefill 和 decode 两种工作负载所需的优化方向并不相同。

0 人收藏 0 人点赞
#blackwell

Ninfer Stahp

Reddit r/LocalLLaMA ↗ · 2026-10-02

一位用户在 Blackwell MaxQ 显卡上测试了全新的 Ninfer 推理后端,在 qwen3.8-27b-nvfp4 模型上跑出 130-180 t/s 的速度,并发解码时几乎没有减速——他表示并发能力堪比 vLLM,吞吐远超 llama-server,即便是在 Windows 10 上安装之后也是如此。

0 人收藏 0 人点赞
#blackwell

NVIDIA GPU 如何帮助加速 OpenAI 的 GPT-6 Astra Ultrafast

NVIDIA Blog ↗ · 2026-10-01 缓存

OpenAI 的 GPT-6 Astra Ultrafast 模式运行在 NVIDIA Blackwell GPU 上,现已通过 OpenAI API 提供,并向符合条件的 ChatGPT Work 和 Codex 用户开放,其 token 生成速度比 Astra 标准模式最高快 8 倍。OpenAI 表示,其利用自有模型优化 NVIDIA 硬件上的推理内核,从而提升延迟、吞吐量表现并降低成本,助力智能体化编程工作流。

0 人收藏 0 人点赞
#blackwell

@nb4ld: 我的首个@huggingface上传 Qwen3.8-27B-DFlash2 for Blackwell - 最终解码速度相同 - 输出质量相同 - 2.6x 显存减少…

X AI KOLs Timeline ↗ · 2026-08-29 缓存

发布针对NVIDIA Blackwell GPU优化的Qwen3.8-27B-DFlash2模型的量化版本,实现类似的解码速度和输出质量,显存使用减少2.6倍,并扩展上下文长度。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈