tinygrad

tinygrad宣布，其凭借AMD MI350X硬件训练Llama 8B，在MLPerf基准测试榜单上占据一席之地，采用了自研驱动、运行时、内核及训练循环，并计划进一步优化时间并挑战405B模型。

本文探讨了通过Thunderbolt在Apple Silicon Mac上使用外部NVIDIA RTX 5090 GPU进行CUDA推理和游戏的可行性，涵盖了tinygrad eGPU驱动以及向Linux虚拟机进行PCI穿透等方法。

一位用户提议使用Blackwell GPU和通过RDMA连接的高内存服务器构建异构AI集群，并寻求在Tinygrad驱动程序开发方面的合作。