gb10

标签

Cards List
#gb10

GLM-5.2-Int4-Int8 在 8× GB10 上:约 1,200 t/s 预填充,33–54 t/s 平均解码

Reddit r/LocalLLaMA · 2026-07-14 缓存

描述了在 8 节点 DGX Spark (GB10) 集群上使用定制 vLLM 分支部署和基准测试量化后的 GLM-5.2-Int4-Int8Mix 模型,实现了约 1,200 t/s 的预填充和约 35 t/s 的解码,支持 MTP 工具调用。

0 人收藏 0 人点赞
#gb10

在4× DGX Spark (GB10)上成功运行GLM-5.2 + MTP投机解码——并发现公开构建配方中缺失的组件

Reddit r/LocalLLaMA · 2026-06-24

作者在4× DGX Spark (GB10)设备上成功运行了配备MTP投机解码的GLM-5.2,并揭示了公开构建配方中缺失的一个组件。

0 人收藏 0 人点赞
#gb10

戴尔在Computex上确认搭载NVIDIA N1X的XPS笔记本(基本上是为消费者配备Windows系统的DGX Spark GB10)

Reddit r/LocalLLaMA · 2026-05-31

戴尔确认了一款搭载NVIDIA N1X芯片的新XPS笔记本,本质上就是DGX Spark GB10的消费者版本,将在Computex上发布。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈