Mac Studio M5 Max 成本分析

Reddit r/LocalLLaMA 新闻

摘要

本文比较了在Mac Studio M5 Max硬件上本地运行AI模型与使用OpenRouter等云服务的成本,建议等待较小模型改进可能更具成本效益。

花费10000美元,你可以获得:- 使用Qwen 3.8 Max(Qwen Pro计划)获得6.2B令牌 - 使用DeepSeek V4 Pro OpenRouter获得5.7B令牌 - 使用DeepSeek V4 Flash OpenRouter获得100B令牌 作为一个本地推理的坚定支持者,除非出于数据主权需要,否则等待较小模型持续改进更具成本效益。与此同时,为Qwen 3.8 27B寻找一个价格合理的24GB - 32GB显卡,并将艰巨任务卸载到OpenRouter。Qwen 3.8 35B A3B?
查看原文

相似文章

本地模型优化(3 分钟阅读)

TLDR AI

本文分析了在 MacBook Pro 上本地运行 AI 推理的可行性,对比了本地 Qwen 35B 模型与云端 Claude Opus 4.5。结论是,对于常规任务,本地模型速度快 2 倍,尽管在能力上略有差距,但仍是日常工作量中一半任务的实用选择。

M5 Ultra Mac Studio 评测:本地 AI 智能体的梦幻 Mac

Hacker News Top

M5 Ultra Mac Studio 被评为用于运行本地 AI 智能体的顶级机器,提供令人印象深刻的性能并实现无需云的 AI 工作流程。它与 M3 Ultra 和 RTX 5090 进行比较,评测者赞扬其速度、热效率以及与 Qwen3.8-Flash-Next 等 AI 模型的集成。

Apple Silicon 的成本高于 OpenRouter

Hacker News Top

每百万 token 的成本对比:在 Apple Silicon 硬件上本地运行 LLM 与通过 OpenRouter 使用云推理的成本比较,发现本地推理通常贵 3 倍且更慢。

Apple 新桌面电脑专为本地 AI 开发设计

Ars Technica

Apple 宣布推出搭载 M5 芯片的新款 Mac Studio 和 Mac Mini 桌面电脑,专为本地 AI 推理设计,允许开发者在本地运行 AI 模型,无需承担昂贵的云成本。