megakernels

标签

Cards List
#megakernels

@JiaZhihao:我们开源了 lithos-metal 超级内核 + DSpark 投机解码,在单台设备上运行 Qwen3.8-27B 峰值速度达每用户 200+ tokens/s

X AI KOLs Timeline ↗ · 2026-10-08 缓存

Lithos 开源了 lithos-metal,一个为 Apple Silicon 生成 Metal 超级内核(megakernels)的推理引擎,配合 DSpark 投机解码可在单台 M5 Max 上以每用户 200+ tokens/s 的峰值速度运行 Qwen3.8-27B,支持一行命令接入各类 coding agent。

0 人收藏 0 人点赞
#megakernels

告别抽象

Hacker News Top ↗ · 2026-08-06 缓存

Hazy Research 认为,AI 智能体能够直接从模糊的提示中生成针对目标优化的内核代码,这使 CUDA DSL 逐渐过时,意味着抽象可能面临淘汰。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈