标签
r/LocalLLaMA 社区的一项提议,呼吁成员不要再执着于 tok/s(每秒生成的 token 数)这类速度指标,而应创建私有的质量基准测试,尤其用于评估模型在不同量化级别下的质量,并相互分享测试结果。
本文质疑为什么 Qwen 还没有发布新的小规模模型(1B/2B/4B),这影响了硬件有限用户的可访问性和开发,并提到 Google 的 Gemma 系列也存在类似问题。
本文通过分析大型语言模型在四种英语方言上的内部概率分布,考察其隐性方言偏见,发现模型将更多负面住房相关形容词与非裔美国人英语和尼日利亚皮钦语相关联,反映了类似于人类歧视的继承偏见。