switchyard

Nvidia发布了Nemotron 3.5 Lightning，这是一个300亿参数的开源混合专家模型，以及NeMo Switchyard，一个开源路由库，可动态地将AI智能体工作流的每一步分配给最合适的模型。Nvidia声称，这种组合可以将智能体任务成本降低至约三分之一，同时保持前沿水平的性能。

LangChain使用Deep Agents测试了NVIDIA的开源路由器Switchyard，结果表明在模型之间进行路由可以将成本降低约70%，同时保持约90%的准确率，并推出了针对NVIDIA模型的新中间件集成。