model-hardware-co-design

本文深入解读NVIDIA最新发布的《AI Model Co-Design》文章，指出在AI推理场景中，存储（内存带宽、权重读取）已取代GPU算力成为主要瓶颈，并阐述了TensorRT-LLM和Blackwell架构围绕Roofline模型的设计策略，强调减少数据移动比提升计算能力更为关键。