标签
HyperParallel 是一个基于 PyTorch 的分布式加速库，专为 Ascend SuperPoD 优化，展示了比标准 PyTorch FSDP2 与 Muon 更高的训练吞吐量，同时保持损失收敛，如在 #PyTorchCon China 的演示中所展示。