我构建了一个开源工具,可将JAX/XLA的TensorBoard跟踪大小减少90%以上(XProf Cubism Reducer)

Reddit r/LocalLLaMA 工具

摘要

一款名为XProf Cubism Reducer的开源工具可将JAX/XLA的TensorBoard跟踪大小减少90%以上,使性能分析更加高效。

暂无内容
查看原文

相似文章

JAXBench:对自主TPU内核优化进行基准测试

arXiv cs.AI

JAXBench是一个新的基准测试套件,包含50个JAX工作负载,用于评估在谷歌云TPU上的AI生成内核优化,提供人工调优基线和智能体评估框架。论文发现,基于精选TPU文档进行条件化处理能显著提升正确性和加速比,其中Autocomp波束搜索在人工调优内核上相比XLA实现了高达1.6倍的几何平均加速。