latency-energy

INAR-VL 提出了一种轻量级路由系统，用于边缘-云端视觉语言推理。该系统根据查询复杂度动态选择边缘或云端模型，在保持接近云端准确率的同时，显著降低延迟和能耗。