rocm

本文提供了在 AMD Strix Halo 硬件上使用监督微调 (SFT) 和 LoRA 方法微调大语言模型 (LLMs) 的教程，涵盖 Linux 及原生 Windows 环境。

Lemonade 为 vLLM 添加了一个实验性的 ROCm 后端，使用户能够通过简单的命令在 AMD GPU 上轻松运行 safetensors 格式的大语言模型。

作者询问2026年中AMD的ROCm生态系统在AI训练领域的当前可行性，将其与NVIDIA的CUDA进行比较，并询问它是否已达到PyTorch的“开箱即用”阶段。

CuPy是一个GPU加速的库，可作为NumPy/SciPy的直接替代品，支持在NVIDIA CUDA和AMD ROCm平台上进行高效的数组运算。