标签
PyTorch Conference North America 演讲预告：来自 Google 和 Meta 的演讲者将介绍 TorchTPU——一个 PyTorch 原生的 TPU 后端，让 vLLM 和 SGLang 能够在 TPU 上原生运行，同时保留现有的调度器、批处理系统、OpenAI 兼容 API 以及 torch.compile 工作流。