disaggregated-systems

标签

Cards List
#disaggregated-systems

用于分离式LLM服务的阶段解耦模型校准功率控制

arXiv cs.LG ↗ · 2026-09-11 缓存

本文提出了一种用于分离式LLM服务的阶段解耦、模型校准的功率控制方法,在MoE模型上与NVIDIA的Max-Q配置文件相比,展示了在最小延迟影响下的能效提升。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈