@norsyx：GLM 5.3 Full 3bpw 在 4x DGX Sparks 上运行成功 附注：来自我修改过的 ZCode harness 截图，展示了各项性能指标
摘要
norsyx 报告 GLM 5.3 全量模型以 3bpw 量化在 4x DGX Sparks 上成功运行，并通过其修改过的 ZCode harness 截图展示了性能指标。
查看缓存全文
缓存时间: 2026/10/06 03:36
🔥 GLM 5.3 完整 3bpw 4× DGX Sparks 🔥
附注：来自我修补过的 ZCode 测试框架的截图，展示了相关指标 https://t.co/fk7OfLGTXb
相似文章
在4台DGX Spark上运行4-bit量化GLM-5.2（753B MoE）：Terminal-Bench 2.1得分70.8%，完整模型为81.0%
在4台DGX Spark机器上运行4-bit量化版GLM-5.2（753B MoE），Terminal-Bench 2.1得分为70.8%，而完整模型为81.0%。
@Tech2Wild: 在家运行完整的GLM-5.2，744B参数，全部256个专家，未剪枝，跨4×NVIDIA DGX Spark (GB10)。200K上下文 · MTP …
一份详细的指南，介绍如何跨4个NVIDIA DGX Spark节点运行未剪枝的GLM-5.2模型（744B参数，256个专家），支持200K上下文，总吞吐量高达60.5 tok/s。包含性能基准测试、致谢和补丁。
autotrust/GLM5.3-Flash-E224-DGX-Spark
autotrust 发布的 GLM5.3-Flash-E224-DGX-Spark 模型仓库，是基于 zai-org/GLM-5.3-Flash 的图像-文本到文本（image-text-to-text）量化版本，支持 NVFP4/8-bit 量化，可在 DGX Spark (GB10/Blackwell) 上通过 vLLM 运行。
后续：在四块DGX Spark上运行GLM-5.2 NVFP4——MTP谜题已解，现可在128K上下文下达到约24 tok/s
修复了vLLM中为四块DGX Spark配置GLM-5.2 NVFP4时的一个推测解码bug，解决了性能权衡问题，通过MTP4在128K上下文下实现了约24 tok/s。
GLM 5.2 在 4 个 Sparks 上运行是否合理？
用户询问在四个 Ascend GX10 或 DGX Sparks 上以 4 位量化运行 GLM-5.2 的可行性，想知道在 100k 上下文下的速度和内存情况。