fusion

标签

Cards List
#fusion

CODA: 将Transformer块重写为GEMM-尾声程序

Hacker News Top · 2026-05-22 缓存

介绍CODA,一种GPU内核抽象,将Transformer操作表达为GEMM加尾声程序以减少数据移动,覆盖Transformer块中几乎所有非注意力计算。

0 人收藏 0 人点赞
← Previous
← 返回首页

提交意见反馈