标签
本文提出了一种用于分离式LLM服务的阶段解耦、模型校准的功率控制方法,在MoE模型上与NVIDIA的Max-Q配置文件相比,展示了在最小延迟影响下的能效提升。
一篇新的arXiv论文探索使用强化学习,通过动态控制大语言模型训练工作负载的功率,在从单个GPU到整个集群的规模上降低AI数据中心的能耗。
uhubctl 是一个命令行工具,用于控制智能USB集线器上每个端口的USB电源,支持多种兼容的集线器。