@wafer_ai: 突发:这些工程师成功在 @AMD MI355X 上以每节点 2626 tok/s 和单流 213 tok/s 的速度运行 GLM 5.2

X AI KOLs Timeline 新闻

摘要

工程师成功在 AMD MI355X 上部署 GLM 5.2,达到每节点 2626 tok/s 和单流 213 tok/s 的性能,相当于 B200 吞吐量的约 80%,而成本不到 Blackwell 的一半。

🚨 突发: 这些工程师成功在 @AMD MI355X 上以每节点 2626 tok/s 和单流 213 tok/s 的速度运行 GLM 5.2,成本不到 Blackwell 的一半 这相当于 B200 吞吐量的约 80%,成本却低于其一半 完整说明见回复:https://t.co/1wAickkQEm
查看原文
查看缓存全文

缓存时间: 2026/07/04 08:41

🚨 突发消息:

这些工程师找到了如何在 @AMD MI355X 上部署 GLM 5.2 的方法,单节点吞吐量达 2626 tok/s,单流延迟 213 tok/s,成本不到 Blackwell 的一半

这大约是 B200 吞吐量的 80%,成本却只有一半以下

详情见回帖:https://t.co/1wAickkQEm

突发消息:

这些工程师找到了如何在 @AMD MI355X 上部署 GLM 5.2 的方法,单节点吞吐量达 2626 tok/s,单流延迟 213 tok/s,成本不到 Blackwell 的一半

这大约是 B200 吞吐量的 80%,成本却只有一半以下

详情见回帖

他们是这样做到的:

喂,你们说的那是我爸

哈哈哈

没你酷啦 @tomgreenwald

谢谢!

谢谢!

我们总是准时

相似文章

性价比不断提升,成本不断降低

Reddit r/singularity

Wafer 证实,AMD MI355X GPU 在推理前沿模型(如 GLM5.2)时,提供了有竞争力的性能,且成本远低于 NVIDIA Blackwell,使用 MXFP4 量化和 sglang 框架,以不到一半的价格实现了 B200 80% 的吞吐量。