tensor-kernels

标签

Cards List
#tensor-kernels

面向张量核的算子感知混合精度容差校准

arXiv cs.LG · 2026-07-21 缓存

本文提出了一种算子感知的校准方法,用于张量核正确性测试中的绝对容差校准,利用误差分布数据设定更严格的阈值。该方法在缺陷检测中将召回率绝对提升了9.3%,且误报极少,在gpuemu语料库上得到了验证。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈