expert-prefetching

SpecPrefetch提出了一种面向稀疏MoE模型的参数高效专家预取框架，使用轻量级适配器预测下一层专家以进行异步传输，同时保留原生路由语义。在Snapdragon 8 Elite设备上，它实现了高达20%的解码吞吐量提升，展示了在内存受限部署中的实用优势。