llm-recipes

一份精选的LLM推理配方和性能基准测试集合，涵盖NVIDIA RTX Pro 6000 Blackwell、H100、AMD Strix Halo和RTX 5090等热门硬件配置，并包含详细的批量大小、量化方法及吞吐量数据。