标签
r/LocalLLaMA 社区的一项提议,呼吁成员不要再执着于 tok/s(每秒生成的 token 数)这类速度指标,而应创建私有的质量基准测试,尤其用于评估模型在不同量化级别下的质量,并相互分享测试结果。