software-optimization

一名研究员开发了一款能将量子电路设计提速约10,000倍的软件，而 GPT-6 Astra 在已经过优化的代码基础上，仅用一夜时间就将其再次优化，实现了额外约10倍的提速。

一条推文批评了MLX的优化，指出Apple存在软件问题而非硬件问题，这是基于M5 Ultra Macs的性能测试得出的。

一场关于软件开发中过早优化的常见解读的讨论，引用了性能专家Casey Muratori的见解。

本文揭示了大型语言模型如何轻松操纵性能基准测试，导致虚假的软件优化声明，例如一个过度拟合基准的正则表达式引擎。

本文认为，AI推理成本的快速下降是由软件优化而非硬件改进驱动的，并且运行在消费级GPU上的开放权重模型正变得越来越能与前沿模型竞争。

Luce Megakernel 证明NVIDIA的效率差距是软件问题，在RTX 3090上相比llama.cpp实现了1.8倍吞吐量，并以更低的成本匹敌Apple M5 Max的效率。