@derangineer: 游戏中的山羊

X AI KOLs Following 新闻
inference-performance open-source fa4 kernel deep-dive contributions

摘要

Charles Frye 宣布了一篇博客文章，详细介绍了对 FA4 内部结构的贡献，重点在于已上游的推理性能改进。

游戏中的山羊
查看原文
查看缓存全文

缓存时间: 2026/06/12 06:54

游戏中的山羊

Charles 🎉 Frye (@charles_irl): 去年秋天，我们深入剖析了FA4的内部机制。

但我们并未止步于理解内核。

自那以后，我们一直在开发推理性能方面的改进，并将其向上游提交。

这篇博文将介绍这些贡献。

相似文章

@satvikgari: 唤醒山羊发布了

X AI KOLs Timeline

关于重塑 Groq LPU 的进展更新，重新设计的向量执行模块更好地支持重叠操作和自注意力。