micro-agent

vLLM 引入了 Semantic Router，这是一种服务层原语，通过微代理实现多个模型之间的协作，使得路由器能够在不修改模型权重的情况下提升输出质量。