标签
PyTorch 博客介绍 Zephon 与 TorchTitan 的集成,实现弹性确定性数据加载:训练从 16 GPU 检查点在 8、32、64 GPU 上恢复时,每个全局批次的 SHA-256 哈希与原始运行完全一致。