标签
一位开发AI代理硬件的开发者反思了专用硬件是否比现有的云端和本地解决方案更有优势，并邀请批判性反馈，以避免制造出错误的产品。
根据r/LocalLLaMA图表估算，云端顶尖AI模型从发布到普通笔记本能运行同等水平平均需24.8个月，GPT-3用了37个月，GPT-3.5用了17个月，GPT-4约24个月，预计Fable/Mythos 5级别能力可能在2028年7月普及到高端消费电脑。
文章认为，使用昂贵AI硬件‘本地化’的趋势是一种科技泡沫的错觉，因为大多数用户高估了自己的需求，无法证明成本的合理性，尤其是在云端AI在财务状况不可持续后转向按使用量计费的情况下。
越来越多的用户正从经过严格对齐的云端大语言模型（如ChatGPT、Claude和Gemini）转向本地或未审查的替代方案，原因包括频繁的拒绝回答、隐私担忧以及对更多控制权的渴望，尽管云端模型在速度和易用性上仍有优势。
本文介绍了 Hermes 应用中按预算层级划分的 AI 模型配置，推荐预算无限时使用 GPT 5.5 和 Claude Opus 4.7 等高端方案，预算有限时使用 DeepSeek V4 Flash 等经济高效的备选方案，并可通过 Qwen 3.6 进行本地部署，实现零推理成本。