cost-performance-tradeoff

标签

#cost-performance-tradeoff

大型语言模型推理网络的最优模型激活策略

arXiv cs.CL ↗ · 2026-09-16 缓存

本文介绍了推理网络，一个基于图的框架，用于优化多个LLMs在推理中的使用，具有最优激活策略，可在满足性能目标的同时最小化成本。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈