gpu-characterization

标签

Cards List
#gpu-characterization

服务掩码扩散大语言模型:基于真实硬件的特性分析与设计原则

arXiv cs.AI · 3天前 缓存

本文利用真实硬件测量,表征了掩码扩散语言模型(dLLMs)的服务行为,识别了与自回归模型的关键区别,并推导出高效推理系统的设计原则。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈