如果你运行多模型智能体循环，你在哪里划分廉价节点/昂贵节点的界限？

最终降低我智能体成本的并不是更好的模型，而是要诚实地面对哪些节点实际上需要聪明的模型。大多数循环都是苦力活：路由这个、调用那个工具、重新格式化那个、遵循规划器已经写好的计划。这些都不需要前沿模型。它需要的是快速、能遵循指令、并且不会在运行三步后就搞砸工具调用的模型。所以我的设置现在是：上面有一个强大的规划器，下面有一个廉价快速的执行器来做重复节点。难点在于执行器，因为廉价模型之所以廉价，部分原因在于它们在长时间的工具调用链上会变得不稳定，而这正是智能体生存的地方。最近我把Ling-3.0-flash放在那个位置（稀疏MoE，约5.1B活跃参数，因此延迟低，而且在这个价格下，它在较长时间运行中的工具调用表现比我预期的要好）。它在OpenRouter上免费使用到8月3日，如果你想试用的话。声明：我确实在那个模型的团队工作，所以请谨慎看待，下面的问题才是我发帖的真正原因。大家是怎么划分界限的？你是按节点类型划分（路由和执行器用廉价模型，规划器用昂贵模型），还是根据每一步的置信度或不确定性来划分，或者干脆让一个模型跑完整个循环并承担成本？我主要想知道，当你把廉价模型放在执行器位置上时，实际会出现什么问题。