inference-routing

一份关于构建安全Agentic系统的指南，包含沙盒隔离、并行子智能体、带控制策略的工具调用、推理路由以及防范注入和权限提升攻击，由Evangelos Pappas发布。

IR3DE 是一种基于岭回归的路由器，可为不同任务选择领域专家大语言模型，在实现具有竞争力的性能的同时，还支持动态添加或移除专家而无需重新训练。

介绍LoRe，一种无需训练的封装器，为迭代图求解器强制实施每步交互预算，在MIS和TSP等组合优化问题上实现了显著的加速和内存减少。

INAR-VL 提出了一种轻量级路由系统，用于边缘-云端视觉语言推理。该系统根据查询复杂度动态选择边缘或云端模型，在保持接近云端准确率的同时，显著降低延迟和能耗。