cloud-api

讨论在设备本地运行 AI 与调用云端 API 之间权衡的帖子，涵盖数据控制、网络依赖、每个词元的成本以及算力需求。

作者分析本地编码代理40天的会话日志，发现云API提供商在10月17日发布了deepseek-v4.1-flash的-1017更新后于10月19日悄悄替换了模型权重，修复了中文泄漏并更激进地触发工具调用，但模型表现明显下降（爆粗率3倍、切换模型次数增加6.7倍），且由于是云端API无法回滚旧权重。

作者认为，只有在数据隐私、运行高可用性，或执行量极大导致云 API 成本或速率限制不可持续的情况下，购买本地 AI 硬件才合理；否则每月 10-20 欧元的云订阅要 5-10 年才能在 1000 欧元的硬件上回本。

本地部署大模型受限于硬件吞吐量，即使显卡性能满载，一天仅能处理约8.64M Token，不足以支持Agent自动化集群或大规模数据分析，因此规模化应用仍需依赖云端API。