efficient-scaling

本文介绍了MoE-ViE，一种混合专家视觉编码器，能够高效扩展以支持图像和视频理解，并以更低的推理延迟超越更大的密集模型。