标签
介绍 Coincidex,一个开源的持续学习框架,使用动态任务相似性路由来避免回放缓冲区,包含基准测试结果和识别出的失败模式。
介绍TSRouter,一种基于图的动态路由框架,能够为时间序列推理任务选择最佳模态(LLM或VLM)和模型,相较于基线实现了16%到46%的相对改进,并展示了零样本泛化能力。
本文提出一种针对动态多车辆路径规划问题的奖励密度启发式算法,在无人机任务分配和城市出租车调度场景中,其解质量与ALNS、GA、SA等元启发式算法相当,而规划时间减少两到三个数量级。
这篇论文提出Agent-as-a-Router框架,将模型路由转化为动态循环过程,根据任务类型和实时执行反馈选择最合适的LLM,以提升编码任务的性能与成本效率。
一种名为Zero-Expert Self-Distillation Adaptation (ZEDA)的新方法,允许像Qwen3和GLM这样的MoE模型在简单token上跳过一半的专家计算,而精度损失极小,通过添加输出为空的虚拟专家,实现约20%的推理加速。
HyDRA是一种面向异构LLM池的混合动态路由架构,能够预测每个查询的细粒度能力需求,并通过不足匹配选择最便宜且能力满足需求的模型,在保持质量的同时实现高达72.5%的成本节省。该架构已部署于GitHub Copilot的VS Code Chat自动模式,并将路由与模型目录解耦,模型变更时无需重新训练。
BEAM通过二值专家激活掩码实现混合专家大语言模型的动态路由,在最小化性能损失的情况下将FLOPs减少高达85%,解码速度提升2.5倍。