同一AI模型。更好的结果。更低的成本。
摘要
作者认为,AI编码工具链和模型路由与模型本身同样重要,分享了使用Oh-My-Pi和OpenCode进行的测试,这些测试减少了token使用量和错误,并推荐针对高容量、轻量级任务采用分层模型订阅。
我一直在通过Oh-My-Pi与Codex、OpenCode和Claude Code工具链运行相同的OpenAI模型。相同的模型。不同的输出。OMP的哈希锚定编辑通过内容哈希定位位置——大幅减少因空白噪声或文件状态过期而导致的补丁失败。再加上真正的LSP/DAP集成,你就能减少token浪费、减少重试,并获得更干净的diff。全部基于完全相同的模型。模型不是全部。工具链才是。第二个杠杆:模型路由。我一直在用开放权重模型和OpenAI模型测试OpenCode Go订阅。层级结构非常优雅:
→ 顶级(Kimi K3):约160条消息 / 5小时
→ 中端(DeepSeek V4 Pro、GPT-5.6-Luna):约3千 / 5小时
→ 高容量(MiMo V2.5、DeepSeek V4 Flash):约3万 / 5小时
那些约3万/5小时级别的模型感觉几乎免费。不适用于长时间的智能体任务,但对于高容量的轻量级工作——分类、筛选、简单转换——它们的能力令人惊讶。算法很简单:更好的工具链 + 智能模型路由 = 更低的成本和更高的质量。每个人都在争论哪个模型更胜一筹。与此同时,你包裹它的工具链,以及你路由到的层级,所起的作用与模型本身一样大。不要再把模型当作你唯一的杠杆。如果你需要AI流程再造方面的帮助,或希望引入有效的AI Agent来提升业务价值,欢迎聊聊。
相似文章
@DeRonin_: https://x.com/DeRonin_/status/2054235707791778034
一份实用指南,介绍了如何通过更智能的 Token 管理(包括多模型路由、提示词缓存和上下文纪律)来降低 80% 的 AI 编码成本,而不是简单地切换到更便宜的模型。
质量差距不到2%但成本相差10倍:在相同的工具调用任务上测试5个模型[D]
一位开发者在工具调用任务上测试了五个AI模型,发现廉价模型的表现与Opus等昂贵模型相差不到2%,腾讯混元(Tencent's Hunyuan)成本低于1.50美元,而Opus为15美元,通过将简单任务路由到廉价模型,每日成本从40美元降至9美元。
@cryptopunk7213: 这真是天才。在AI模型越来越昂贵且日益丰富的世界里,这样的产品简直是梦想中的AI护城河……
Factory Router 为每个任务自动选择最佳AI模型,声称能在保持前沿性能的同时削减25%的成本,对大企业来说是一款前景广阔的工具。
AI成本的很大一部分只是模型一遍又一遍地重读相同的文本。有趣的修复尝试,带有公开证明
Corbenic AI声称为大语言模型提供无损KV缓存重用,允许存储的模型内存在不同机器和GPU代际之间逐比特恢复,并通过公开校验和进行验证。该项目包括一个开源的小模型,训练成本约600欧元,使整个流程可审查。
@DeRonin_: 我的整个AI栈现在都换成中国产品了,便宜87%。相同收入,按任务替换:1. 推理/后端大脑 Opus 4.8 → Kimi…
一位用户报告称,在推理、代码生成、智能体循环、批量处理以及图像/视频生成等方面,已将美国AI模型替换为中国替代品,实现了成本降低87%,平均质量仅下降4%,且收入未变。