标签
LOWN 为扩散视觉语言模型引入了证书引导的视觉路由机制：当仅基于文本的预测与基于图像条件的预测一致时，跳过图像处理，在十个基准上以 35.3% 的解码 FLOPs 保留了 LLaDA-V 99.6% 的性能分数。
TRACE是一个免训练框架，通过基于效用和多样性对视觉证据进行排序来优化GUI代理效率，利用自适应令牌管理和KV收缩减少延迟和内存使用。
This paper introduces a method to predict middle-layer attention in multimodal LLMs to prune visual tokens efficiently, using question-contrastive teacher selection and cross-modal attention distillation.
AutoPrune是一个无需训练的框架，利用大语言模型（LLMs）通过领域特定语言和残差搜索自动为多模态大语言模型设计视觉令牌剪枝策略，以极小的性能损失实现高效率（在移除94.4%视觉令牌的同时保留99%的性能）。