component-wise-analysis

标签

Cards List
#component-wise-analysis

重新思考小型VLM量化:从组件分析到硬件感知的边缘部署

arXiv cs.LG · 13小时前 缓存

本文系统性地评估了Jetson边缘设备上小型视觉语言模型的组件级量化,发现模型架构(MoE vs 稠密)显著影响量化敏感性,且量化误差在大体上是累加的,除了模态对齐路径之外。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈