wmma

标签

Cards List
#wmma

在@huggingface上发布我的第一个内核:MaxSim后期交互检索(ColBERT / PyLate)的瓶颈在于材料……

X AI KOLs Following ↗ · 2026-05-18 缓存

在 Hugging Face 上发布了一个内核,通过使用分块评分和 SIMD 组矩阵运算(Metal 和 WMMA)来加速 MaxSim 后期交互检索,比朴素实现获得了 3–5 倍的加速。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈