@oliviscusAI: 有人刚刚开发了一款工具,可以准确告诉你哪些大语言模型可以在你的硬件上运行。它会扫描你的内存、CPU 和 GPU……
摘要
一款新工具已发布,它通过扫描用户的硬件规格(内存、CPU、GPU)来确定哪些大语言模型可以本地运行,并根据性能指标对这些模型进行排名。
有人刚刚开发了一款工具,可以准确告诉你哪些大语言模型可以在你的硬件上运行。
它会扫描你的内存、CPU 和 GPU,然后根据质量、速度和上下文对数百个模型进行排名。 https://t.co/NpmppbjTH7
查看缓存全文
缓存时间: 2026/05/10 08:24
有人刚刚开发了一款工具,可以准确告诉你哪些大语言模型(LLM)可以在你的硬件上运行。
它会扫描你的内存、CPU 和 GPU,然后根据质量、速度和上下文能力对数百个模型进行排名。 https://t.co/NpmppbjTH7
相似文章
打造了一款能准确告诉你哪些LLMs适合你的GPU的工具。欢迎反馈。
一款估算哪些LLMs适合用户GPU内存的工具,根据性能对模型进行排名,同时考虑内存限制和量化级别。
Show HN: 根据基准测试排名,为你的硬件找到最佳本地LLM
whichllm 是一个开源Python工具,它自动检测你的GPU/CPU/RAM,并从HuggingFace中排名最适合你系统的本地LLM,使用真实基准测试而非大小启发式方法。
@svpino:一个非常酷的方法,可以找出哪些模型能在你的电脑上运行:1. 安装 llm-checker $ npm install -g llm-chec…
llm-checker 是一个 npm 命令行工具,它可以检测你的硬件并推荐可以在本地运行的 AI 模型。
@bytebytego: 如何在本地运行LLMs
一份指南,说明如何在您自己的硬件上本地运行大型语言模型。
@tom_doerr: 本地LLM工具和硬件精选列表 https://github.com/0xSojalSec/LLMs-local…
一份精选列表,包含用于本地运行大语言模型的平台、工具、模型、硬件和资源,托管在GitHub上。