nodes

标签

Cards List
#nodes

@AlpinDale: GLM-5.2-FP8在4个节点的4090-48GB上运行,解码速度约28 tok/s。这些节点通过以太网的互连速度为10吉比特……

X AI KOLs Following · 3天前 缓存

AlpinDale称,在4个节点的RTX 4090(48GB)上运行GLM-5.2-FP8,通过10吉比特以太网实现约28 tok/s的解码速度,并计划使用DSpark进行优化。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈