token-aware

标签

Cards List
#token-aware

Pro-Router: 面向token的渐进式模型路由与自适应边云协作,实现高效多模态LLM推理

arXiv cs.AI · 3天前 缓存

Pro-Router引入了一种面向token的渐进式模型路由方法,用于高效多模态LLM推理,通过自适应边云协作提高吞吐量并降低成本。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈