@h100envy: Dan Fu 与 Tri Dao 合著了 FlashAttention,随后又共同构建了 Hyena、Monarch Mixer 和 ThunderKittens。现在他是 dis…

X AI KOLs Timeline 新闻

摘要

介绍 Dan Fu,他是 FlashAttention、Hyena、Monarch Mixer 和 ThunderKittens 等高性能内核的关键贡献者,现为 Together AI 的杰出研究员,其工作成果被用于 ChatGPT、Claude 和 Gemini。

Dan Fu 与 Tri Dao 合著了 FlashAttention。随后,他又共同构建了 Hyena、Monarch Mixer 和 ThunderKittens。现在,他是 Together AI 的杰出研究员。 这四种内核你可以在运行 ChatGPT、Claude 和 Gemini 的推理栈中找到。同一个人,贯穿你的热路径。 他的执念:从同一块 GPU 中榨取更多的每秒 tokens。ThunderKittens 是一个 100 行的 CUDA DSL,性能超越了手写内核。 每个人都在租用更多 GPU。而他不断让你已有的 GPU 发挥更大价值。
查看原文
查看缓存全文

缓存时间: 2026/06/28 18:13

Dan Fu 与 Tri Dao 合著了 FlashAttention,随后共同构建了 Hyena、Monarch Mixer 和 ThunderKittens。如今他是 Together AI 的杰出研究员。

运行 ChatGPT、Claude 和 Gemini 的推理栈中,有四款核心内核皆出自他手。一个人,贯穿你的关键路径。

他痴迷于:在相同 GPU 上压榨出更多每秒 token 数。ThunderKittens 是用 100 行 CUDA 写成的领域特定语言,性能超越手写内核。

所有人都在租用更多 GPU,而他让已有的每一块 GPU 发挥更大价值。

相似文章