online-optimization

本文介绍了Director，一个分布式MoE服务系统，通过预测驱动的在线主动专家放置来最小化端到端延迟。它采用轻量级预测器和基于松弛法的优化器，对Mistral、DeepSeek和Qwen等模型可实现高达55%的延迟降低。

本文介绍了一种面向在线优化的曲率自适应跟随扰动的领导者（FTPL）算法，该算法采用时变扰动尺度，在非凸Lipschitz损失和强凸损失下均能实现最优遗憾界。