标签
作者详细介绍了如何使用Claude Opus-5.5进行内核开发和AI工作,分享了本地模型工作流、量化任务和硬件选择的实践经验。
DwarfStar 为关键模型系列提供快速融合内核,基于 MIT 许可证开源,以增强 AI 实现。
@TheAhmadOsman 发布的一条推文,指向一个学习AI内核工作原理的资源。
一篇详细分析ThunderKittens的博客文章,ThunderKittens是用于高性能AI内核的紧凑型DSL。文章包括从底向上的抽象分析,以及一个实现非因果注意力预填充内核的基准测试,该内核比FlashAttention-2快约1.55倍,与FlashAttention-3性能相当。