@RayFernando1337: 哇,仓库已上线!
摘要
宣布GLM 5.3 FLASH模型的仓库已上线,初步基准测试显示在DGX SPARK硬件上每秒处理59个令牌,并承诺将有更多更新。
哇,仓库已上线!
查看缓存全文
缓存时间: 2026/08/28 15:41
哇,代码仓库已上线!
Tech2Wild (@Tech2Wild): GLM 5.3 FLASH DFLASH2 TP2 部署于 2 台 DGX SPARK 上首次提示!峰值速度达 59 tok/s
更多基准测试即将到来,并同步更新 REPO
相似文章
@MiaAI_lab: GLM 5.3 Flash on 2x DGX Sparks 看看顶部的 tok/s :) 这是散文。即将发布。
GLM 5.3 Flash 是一款即将推出的 AI 模型,在 2x DGX Spark 系统上展示高 tok/s 性能,即将发布。
GLM-5.3-Flash @ DGX Station GB300: 约206 tokens/秒(单流),1M上下文
用户在DGX Station上对GLM-5.3-Flash AI模型进行基准测试,实现了约206 tokens/秒的单流推理速度,上下文窗口为100万,并分享了设置的Docker命令。
@runinfrai:我们整个九月都在重写 GLM 5.3 Flash 背后的内核。重大版本现已在 RunInfra 上线,在 Ver…上可达 670 tok/s
RunInfra 宣布 GLM 5.3 Flash 推出重大版本,采用重写的推理内核,在 FP8、厂商原生构建上可达 670 tok/s,现已同时支持 AMD 运行,定价具备竞争力,支持 100 万 token 上下文窗口。
@Ex0byt: 更新:通往GLM-5.2之路:我们快到了,各位!未量化、未剪枝的DeepSeek-v4-Flash。单台……上11 tok/s
关于在单台DGX Spark上使用sglang推理和自定义mega-kernel以11 tok/s运行未量化的DeepSeek-v4-Flash模型的更新,正在向GLM-5.2迈进。
@TechMDAI: GLM-5.3-Flash EXL3-3.0bpw 由 @0xSero、@BrandonMusicKy、@LottoLabs、@localmaxxing 实现,速度 193.8 tokens/s
这篇文章重点介绍了 GLM-5.3-Flash EXL3-3.0bpw AI 模型,其推理速度达到每秒193.8个令牌,归功于多位贡献者。