LLM规划器 - 根据你的用例/模型/预算选择设备,或根据你的设备选择模型。60+配置方案,50+模型,130+引用t/s来源,150+评测YouTube视频,待机+运行功耗,多区域价格,定期更新。

Reddit r/LocalLLaMA 工具

摘要

一个全面的网络工具和公共数据集,帮助用户选择适合运行LLM的硬件,包含60+配置方案、50+模型、性能基准测试和评测视频,支持模型与硬件的双向匹配。

TL;DR:汇集互联网信息,制作成LLM模型/硬件选择指南。两个方向:* “我应该为我的用例/模型/预算购买什么设备?” * “我有一块3090 / M3 Max / DGX Spark / Strix Halo / R9700,什么模型跑得好?” 另外还有设备和LLM的并排比较模式。每秒Token数标注来源;每个配置方案都链接了实际评测的YouTube视频。为什么做这个:我需要挑选自己要买的东西——5090、Spark还是Strix Halo,最后选了华硕的Spark。我把这个工具做到无需离开网站再去谷歌搜索的程度。实际包含的内容:* 60+各种具体配置方案,即插即用开关、数据中心开关 * 每个模型在Q2/Q4/Q5/Q8量化下的解码tok/s+提示处理tok/s * 100K提示处理到第一个Token的时间 * 待机+运行功耗(瓦) * 二手+全新价格,多地区 * 150+评测YouTube视频链接至各个配置(可观看评测形成观点) * 130个引用来源,涵盖排行榜、模型卡、llama.cpp基准线程、Tom's Hardware以及本论坛 * 反向模式:粘贴硬件 -> 查看适配的开放权重模型,按聊天/编程/智能体/推理排序,封闭前沿四模型(Gemini 3.1 Pro、GPT-5.5、Sonnet 4.6、Opus 4.7)作为上限参考 * 数据至少每周更新一次。它不能做什么:* 提供你所在地区最便宜价格的链接。* 给出硬件能获得的绝对最佳tps。实际效果因量化、软件、补丁和更新而异。链接:[https://llmrequirements.com](https://llmrequirements.com) 所有数据导出至公共仓库 [https://github.com/Trenin-Labs/LlmRequirements](https://github.com/Trenin-Labs/LlmRequirements) 网站上有链接,可通过此公共仓库的GitHub问题提交基准或报告错误。
查看原文

相似文章

AlexsJones/llmfit

GitHub Trending (daily)

llmfit 是一个终端工具,能够检测你的硬件,并通过评分质量、速度、适配性和上下文来推荐兼容的 LLM 模型。它包含交互式 TUI 和 CLI,支持多种运行时,并允许用户进行基准测试和分享性能结果。