使用开放模型的感觉出奇地好
摘要
作者描述了在自己的推理端点上使用开放AI模型(Kimi K3)带来的解放感,与使用专有服务的体验形成对比。
暂无内容
查看缓存全文
缓存时间: 2026/07/28 06:28
# 用开放模型的感觉出乎意料地好
来源:https://matthewsaltz.com/blog/using-an-open-model-feels-surprisingly-good/
2026年7月27日
过去大概两年里,我也像其他人一样一直在用 Claude 和 ChatGPT。我从来不是什么狂热的“开源软件”爱好者之类的人。但就在刚才,我让 opencode 在我自己的推理端点上跑起来了……这种感觉出乎意料地好。不知怎么的,感觉……自由了。我拥有这个端点,我的数据只是从我的笔记本发过去再回来。感觉它是我的。真的很好。
动机是这样的:我刚回到家,想开始搞一个小的业余项目,但我的个人账户没有最好的 Claude 或 ChatGPT 套餐。我在 Modal (https://modal.com/) 工作,今天我们刚在托管端点上推出了 Kimi K3 (https://modal.com/library/moonshot/kimi-k3),我知道 Kimi K3 据说相当不错,所以我没有升级我的 Claude 套餐,而是想试试它。(我没有直接参与这个功能,所以之前还没玩过。)
大约五分钟内,我就把 opencode 指向了我自己的 Modal 端点并跑起来了。启动 opencode 时,我只感受到一种愉悦的、空白的虚无感。我能给出的最贴切的描述就是,就像在花了一大堆时间摆弄华丽编辑器之后,打开了 vim。或者说,就像把我与其他提供商之间那些束缚的触须斩断了,我可以自由呼吸了。我有点夸张,但并没有夸大太多。这很奇怪,哈哈,而且完全出乎我的意料,这就是我想把它写下来的原因。
相似文章
转向开放模型几乎没有缺点
作者认为,从专有AI模型转向开放模型现在几乎不再是一种职业牺牲,理由是开放模型质量的提升以及Claude的ID验证作为催化剂,类似于历史上从Windows到Linux的转变。
@lqiao:封闭模型提供商最危险的句子是:“我们换了模型,没人注意到。” 这正是……
一家公司用开源的替代模型替换了专有AI模型,成本降低了5倍,这展现了向开源权重模型的转变。
人工智能的经济因素开始倾向于开放模型
本文探讨了市场力量和经济因素,这些因素正日益倾向于开源AI模型而非专有替代方案。
开源AI现状(15分钟阅读)
Mozilla发布的《开源AI现状》报告指出,开源权重模型在许多任务上已与闭源模型达到同等水平,同时推理成本在36个月内下降了50倍。目前,大多数生产环境中的token通过开源模型路由,竞争格局已转移到上层的智能体层。
谁害怕中国模型?
本文分析了像Kimi K3这样的中国开源权重AI模型的影响,认为虽然用户研发是免费的,但推理成本(COGS)仍然很高,挑战了免费AI的概念,并强调了在零边际成本软件时代边际成本的回归。