cuda-memory

本文介绍了一个用于评估本地LLM配置的基准测试工具，重点关注显存使用情况、性能指标和硬件优化，以协助开发者优化配置。