@PatrickToulme: 这个练习让我相信DSL和编译器的未来在很大程度上是代理化的。编程语言和DSL但…

X AI KOLs Timeline 新闻
dsl compilers ai-agents claude nvidia flash-attention gpu-programming

摘要

Claude Fable 使用 pyptx DSL 为 NVIDIA B200 编写了一个 FlashAttention 前向内核，其性能与手动调优的 CUTLASS 内核接近，展示了 AI 代理在编译器和 DSL 设计中的潜力。

这个练习让我相信DSL和编译器的未来在很大程度上是代理化的。为人类设计的编程语言和DSL对于代理来说并非必要。代理能够处理人类无法编写的裸机级别的编程语言。 这项任务也展示了适当的工程化测试框架的重要性。
查看原文
查看缓存全文

缓存时间: 2026/07/07 23:39

这个练习让我相信 DSL 和编译器的未来在很大程度上是代理式的。为人类构建的编程语言和 DSL 对代理来说并非必需。代理能够处理人类无法编写的、接近底层的编程语言。

正确的工具链工程的重要性也在本任务中得到了体现。

Patrick C Toulme (@PatrickToulme): Claude Fable 用 pyptx DSL 为 NVIDIA B200 (Blackwell) 编写了一个 FlashAttention 前向内核，其性能达到 FlashAttention-4（手工调优的 CUTLASS 内核）的 0.92–0.99 倍——两种序列长度下性能持平，约 1350 TFLOPS bf16。

该代码用我的 Python DSL pyptx 编写，能直接生成原始

相似文章

一个可定制的编译器，用于为AI模型生成高效的融合GPU内核 [P]

Reddit r/MachineLearning

作者介绍了一款用 Python 编写、高度可定制且易于修改的 ML 编译器。该编译器通过多级 IR 流水线将 LLMs 转换为优化的 CUDA 内核，在特定操作上实现了与 PyTorch 相当甚至更优的性能。文章详细阐述了该编译器的优化过程、降级规则以及用于生成高效融合 GPU 内核的 CLI 用法。