llmflation

本文认为，AI推理成本的快速下降是由软件优化而非硬件改进驱动的，并且运行在消费级GPU上的开放权重模型正变得越来越能与前沿模型竞争。