AlexsJones/llmfit
摘要
llmfit 是一个终端工具,能够检测你的硬件,并通过评分质量、速度、适配性和上下文来推荐兼容的 LLM 模型。它包含交互式 TUI 和 CLI,支持多种运行时,并允许用户进行基准测试和分享性能结果。
数百种模型和提供商。一条命令即可找出哪些能在你的硬件上运行。
查看缓存全文
缓存时间: 2026/07/21 12:36
英语 · 中文 · 日语
相似文章
LLM规划器 - 根据你的用例/模型/预算选择设备,或根据你的设备选择模型。60+配置方案,50+模型,130+引用t/s来源,150+评测YouTube视频,待机+运行功耗,多区域价格,定期更新。
一个全面的网络工具和公共数据集,帮助用户选择适合运行LLM的硬件,包含60+配置方案、50+模型、性能基准测试和评测视频,支持模型与硬件的双向匹配。
@Sumanth_077: 别再猜测哪些模型能塞进你的VRAM了!llmfit 是一款 CLI 工具,自动检测硬件,并对 206 个模型进行排名…
llmfit 是一个开源 CLI 工具,能检测你的硬件,并对 200 多个大语言模型进行排名,找出真正能在你系统上运行的模型,并自动选择最合适的量化级别。
Show HN: 根据基准测试排名,为你的硬件找到最佳本地LLM
whichllm 是一个开源Python工具,它自动检测你的GPU/CPU/RAM,并从HuggingFace中排名最适合你系统的本地LLM,使用真实基准测试而非大小启发式方法。
@oliviscusAI: 有人刚刚开发了一款工具,可以准确告诉你哪些大语言模型可以在你的硬件上运行。它会扫描你的内存、CPU 和 GPU……
一款新工具已发布,它通过扫描用户的硬件规格(内存、CPU、GPU)来确定哪些大语言模型可以本地运行,并根据性能指标对这些模型进行排名。
LLMTest
LLMTest 是一个帮助开发者在应用中使用合适的 LLM 并设置回退方案的工具。