标签
本文描述了关于 split-K 矩阵乘法的实验,揭示了答案的变异性取决于块布局和分割计数,在 B200 GPU 上的测试显示了不同条件下的输出变化。
Suhail报告称,在13家提供商中,B200 GPU的可用性为零,价格正迈向每GPU每小时6.50-7美元,并警告推理成本将变得更贵。
本文为GLM-5.2在8×B200节点上提供了最佳部署配置,展示了使用两个TP=4副本的NVFP4方案相比FP8 TP=8方案可实现约2倍的吞吐量,并附有详细的性能数据和注意事项。
Claude Fable 5 通过为 B200 fp8 GEMM 手动编写 PTX 代码,在 KernelBench-Hard 上取得了顶级结果,超越了其他模型,并在计算密集型形状上达到峰值性能的 44-59%。