mlir

标签

Cards List
#mlir

@PyTorch:一个 PyTorch 工作负载究竟如何变成 AI 加速器能够实际执行的东西?在我们的最新博客文章中,@IBM Spyre……

X AI KOLs Following ↗ · 2026-10-20 缓存

PyTorch 的博客详细介绍了其基于 MLIR 的开源编译器后端(KTIR → DataflowIR → SpyreCode),该后端可将 PyTorch Inductor 的编译决策转换为可在 IBM Spyre AI 加速器上执行的数据流管线。

0 人收藏 0 人点赞
#mlir

呼唤所有 GPU:帮助我们测试 SonicBoom v0.0.3 —— 一个在解码上超越 llama.cpp 的编译器优先 AI 运行时

Reddit r/LocalLLaMA ↗ · 2026-10-19

HardenedLinux 发布开源编译器优先的 AI 推理运行时 SonicBoom v0.0.3,声称在 RTX 3050 上解码速度超过 llama.cpp,并呼吁社区贡献 GPU 基准测试结果。

0 人收藏 0 人点赞
#mlir

@Modular:Modular 团队将于 10 月 26–28 日前往圣克拉拉参加 2026 年 @llvmorg LLVM 开发者大会。周一,Mojo 团队……

X AI KOLs Following ↗ · 2026-10-16 缓存

Modular 团队将参加 2026 年 LLVM 开发者大会,Mojo 团队举办全天工作坊讲解 Mojo 内部原理与路线图,Spenser Bauman 将分享 MAX 的 MLIR/LLVM 图编译器技术,并与 Qualcomm 联合赞助及现场招聘。

0 人收藏 0 人点赞
#mlir

@PyTorch:现代 AI 工作负载依赖种类日益增多的专用 GPU kernel,而没有任何单一的 kernel 生成后端能在所有算子上都达到最优……

X AI KOLs Timeline ↗ · 2026-10-02 缓存

在 PyTorch Conference North America 2026 上,AMD 的 Liz Li 和 Jiahui Cao 将带来主题演讲《Extending TorchInductor with FlyDSL》,介绍一个面向高性能 GEMM 的 MLIR 原生 GPU kernel 后端。该后端与 TorchInductor 的编译及自动调优流水线集成,并在 AMD Instinct GPU 上与 Triton 进行性能对比测试。

0 人收藏 0 人点赞
#mlir

在MLIR Pass边界捕获NaN

Lobsters Hottest ↗ · 2026-08-26 缓存

本文探讨了MLIR编译器pass如何即使操作数有效,也可能通过常量折叠引入NaN值,并提出了一种在IR边界捕获和修复此类问题的验证工作流。

0 人收藏 0 人点赞
#mlir

MLIR 之旅:人人都依赖的方言栈

Lobsters Hottest ↗ · 2026-07-24 缓存

本文解释了 MLIR 作为一个编译器基础架构框架,提供了灵活的方言栈,描述了它如何被用于 XLA、Triton 和 Mojo 等现代 ML 编译器中,以逐步将张量操作降级为机器代码。

0 人收藏 0 人点赞
#mlir

无需重新训练的跨方言泛化:面向MLIR的基于模式约束解码的基准与评估

arXiv cs.AI ↗ · 2026-07-22 缓存

本文介绍了跨多种方言的自然语言到MLIR代码生成的基准测试,以及一个基于模式约束的解码栈,该栈使得小型语言模型无需重新训练即可在结构验证器任务上匹配或超越大型代码语言模型。

0 人收藏 0 人点赞
#mlir

一种基于MLIR的大型语言模型编译方法

arXiv cs.CL ↗ · 2026-07-20 缓存

本文提出了一种基于MLIR的大型语言模型编译方法,通过两种自定义方言(TopOp和TpuOp)将模型从框架无关的语义逐层降低为硬件专用指令,并针对自回归推理阶段(预填充、预填充KV和解码)引入三阶段静态编译。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈