token-production

本文主张，在计算、功耗、冷却和运营效率的约束下，LLM推理应当作为能量到令牌的生产来评估，并提出了如焦耳/令牌和经PUE调整的输送功率等新指标。