标签
PyTorch 2.14 引入了重大更新，包括在 Inductor 中使用 NVGEMM 处理 CUTLASS 内核，用于分布式计算的新 nccl2 后端，高级容错性，以及在 Apple Silicon 上的原生线性代数。
PyTorch 2.14 引入了对 Inductor、PyTorch Distributed、动态形状、Apple Silicon 支持等方面的更新，并有现场问答和 PyTorchCon 公告。
本文解释了 PyTorch 中的 torch.compile 堆栈，详述了从 API 到 Dynamo、FX 图、ATen 操作以及用于 JIT 编译的 Torch Inductor 的各个步骤。