@DanKornas: GPU 工程学领域过于广泛,无法通过零散标签学习。Awesome GPU Engineering 是一个精心整理的 GitHub 资源列表,涵盖……
摘要
一个精心整理的 GitHub 资源列表,用于学习 GPU 工程学,涵盖架构、内核编程、优化、分布式系统及 AI 加速,包括书籍、框架、分析工具和面试准备内容。
查看缓存全文
缓存时间: 2026/06/29 00:21
GPU 工程涵盖范围太广,无法通过随意浏览标签来学习。
Awesome GPU Engineering 是一个精选的 GitHub 资源列表,用于学习 GPU 工程,涵盖架构、内核编程、优化、分布式系统和 AI 加速。
它通过将书籍、框架、性能分析器、系统工具、课程、论文和面试主题分组到一个便于浏览的位置,帮助你构建更清晰的学习路线图。
主要特点:
• 学习路径覆盖 – 从《Programming Massively Parallel Processors》和《CUDA by Example》等基础书籍开始 • 框架地图 – 链接到 CUDA、ROCm、OpenCL、SYCL/oneAPI、Vulkan Compute、Metal 和 Mojo • 性能工具箱 – 指向 Nsight、CUTLASS、TensorRT、Triton 和 Roofline 模型 • 多 GPU + AI 系统 – 收录了 NCCL、vLLM、Accelerate、TensorRT-LLM、Horovod、DeepSpeed 和 Megatron-LM • 学习资料 + 面试准备 – 包括课程、论文、学习工具和 GPU 系统设计主题
它是开源的(CC BY 4.0 许可协议)。
链接在回复中。
相似文章
@0x0SojalSec: 去他妈的付费课程,掌握AI系统的GPU工程。从基础书籍和CUDA/ROCm编程到低阶…
一份精心整理的资源列表,用于掌握AI系统的GPU工程,涵盖CUDA、ROCm、优化工具、多GPU编排和分布式训练。
@vivekgalatage:我发现的最好的GPU优化结构化参考资料——450篇论文,14年研究。一些技术已经进化……
一条推文分享了一个涵盖14年、450篇论文的GPU优化结构化参考资料,指出虽然一些技术已经发展,但心智模型仍然有用。还提到了Onur Mutlu关于GPU架构的讲座。
@pauliusztin_: 我刚找到了理解 GPU 最实用的资源之一。再也不用在不同文档、PDF 和论坛帖子之间跳来跳去了…
Modal Labs 发布了一个开源的 GPU 术语词典,将零散的 NVIDIA 文档、CUDA 细节及编译器参数整合为单一的可导航资源,旨在帮助工程师优化 LLM 的训练与推理。
@chessMan786:GPU架构基础
一条推文分享了一篇关于GPU架构基础的文章链接。
@kmeanskaran: https://x.com/kmeanskaran/status/2105635344385450151
一篇面向 AI 工程师的 GPU 深度解析,涵盖 GPU 架构(SM、Tensor Core、CUDA kernel)、训练与推理的差异、GPU 各代产品与定价、NVIDIA 的竞争对手,以及在本地运行 gpt-oss-120b 和 Kimi K3 所需的显存与算力实操计算。