标签
PyTorch 宣布将举办一场关于 PyTorch 2.15 版本的在线问答网络研讨会,届时 Meta 工程师将详细介绍各项新功能,包括重写的 NCCL 后端、NIXL 单边传输、更精细的 FSDP2/流水线并行内存控制,以及在 NVIDIA Blackwell 和 Apple 芯片上更快的 NVFP4/FP8 解码。
本文描述了一种方法,使用 AsyncGRPOTrainer 训练 LoRA 适配器,并通过存储桶在单独的 Hugging Face 作业之间同步,从而消除了对 NCCL 通信的需求。
NVIDIA分享了其Exemplar Cloud项目的调试经验,详细说明了SMMU电源管理、NUMA放置、NCCL队列对并发以及硬件缺陷等配置问题如何导致AI集群8-12%的训练吞吐量差距,以及如何诊断和修复这些问题。