标签
llmfit 是一个开源 CLI 工具,能检测你的硬件,并对 200 多个大语言模型进行排名,找出真正能在你系统上运行的模型,并自动选择最合适的量化级别。
llm-checker 是一个 npm 命令行工具,它可以检测你的硬件并推荐可以在本地运行的 AI 模型。
对 canirun.ai 背后的硬件检测模块进行可读的重写,提供了描述性名称、JSDoc 和更清晰的代码,同时保留了原有的启发式规则和规格表。
whichllm 是一个开源Python工具,它自动检测你的GPU/CPU/RAM,并从HuggingFace中排名最适合你系统的本地LLM,使用真实基准测试而非大小启发式方法。