标签
一个从使用工具的智能体蒸馏而来的2B视觉语言模型，通过剪枝其多语言嵌入表以满足参数限制，在长第一人称视频问答任务中取得了第一名，仅使用1.1%的参数就达到了更大管道89%的准确率。
本文提出了一种针对LLM的复合稀疏框架，结合了静态参数剪枝与动态令牌级计算，表明混合这两种机制优于单维压缩，并能延迟性能退化。