标签
后续基准测试文章显示,LoRA 的替代方案 GCMP 在 Qwen3.8-27B 上达到了与 LoRA r=32 相当的准确率,而适配器参数量仅为其 1/55(2.9M/11MB 对比 159M/320MB),并详细介绍了推理服务内存占用、训练速度方面的权衡,以及 4 位量化基座模型的对比。
作者使用vLLM在一张GPU上对服务1000个LoRA适配器进行了基准测试,发现活跃适配器数量和流量模式才是真正的瓶颈,并提供了调优max_loras的建议。