构建、训练、服务。✨

全新的 TPU 开发者中心现已上线。在一个地方获取文档和框架配置，在 Google Cloud TPU 上构建和训练 AI → https://t.co/J7l5smTQQu https://t.co/GpZiM7oKXH

TPU 开发者中心

来源：https://cloud.google.com/products/tpu/tpu-developer

使用 Google Cloud TPU 构建和部署

查找在 Google Cloud TPU 上构建、训练和服务 AI 所需的资源。借助 vLLM、JAX 和 PyTorch 加速从预训练到生产就绪服务的整个生命周期。

关于使用 Ironwood TPU 进行训练的开发者指南

在 TPU 上扩展模型预训练

使用 JAX、PyTorch 和 Keras 在 TPU 上实现更高的训练吞吐量

• 云、摄像头及其他影像（绿色背景）弹性训练与 MaxText 当训练过程中一台机器在多点训练中间宕机时会发生什么？在本文中，我们将探讨一个可能的答案——弹性训练，使用 JAX AI 栈（MaxText 和 Pathway）以及 Cloud TPU。博客 (https://developers.googleblog.com/we-terminated-a-tpu-mid-training-and-it-recovered-in-seconds-introduction-to-elastic-training-with-maxtext/)

• 构建 MiniGPT（JAX 文本，旁边有人像）使用 JAX 构建 LLM 从头开始构建一个拥有 2000 万参数的 GPT-2 风格语言模型，使用 JAX——Google 的 Gemini、Veo 和 Nano Banana 模型背后的开源库。课程 (https://www.deeplearning.ai/short-courses/build-and-train-an-llm-with-jax/)

• JAX 扩展手册（绿色龙形吉祥物）如何扩展你的模型 训练 LLM 往往像炼金术，但理解和优化模型性能并不必如此。本书旨在揭开扩展语言模型科学的神秘面纱。电子书 (https://jax-ml.github.io/scaling-book/)

• Ironwood TPU 芯片 使用 Ironwood TPU 进行训练的开发者指南 本技术概览探讨了 JAX 和 MaxText 生态系统中为在 Ironwood 硬件上优化训练效率并达到峰值性能而设计的具体方法和工具。指南 (https://cloud.google.com/blog/products/compute/training-large-models-on-ironwood-tpus)

• Ironwood 与数据中心 Ironwood 上 FP8 训练优化的内幕 Google 的 Ironwood 芯片是我们首批支持 8 位浮点精度的 TPU，有助于通过减少内存使用和提高吞吐量来加速 AI 训练和推理。博客 (https://discuss.google.dev/t/inside-the-optimization-of-fp8-training-on-ironwood/336681)

• 多彩背景上的 MAXTEXT 字样 MaxText 高性能、高可扩展性的开源 LLM 库及参考实现，使用纯 Python/JAX 编写，面向 Google Cloud TPU 和 GPU 进行训练。教程 (https://maxtext.readthedocs.io/en/latest/tutorials.html)