新的k2 horizon模型似乎是性能怪兽

Reddit r/LocalLLaMA 模型

摘要

k2 horizon AI模型,尤其是7B版本,因其在尺寸更小的情况下性能优于muse glimmer而受到赞誉,且完全开源。如果基准测试准确,这可能树立新的标准。

尤其是7B版本看起来非常有趣,它以小得多的体积轻松击败muse glimmer。而且他们确实开源了一切,每一步都开源。有人试过这个模型吗?如果7b和3.7b版本确实好用,而不仅仅是刷分,那这可能是一个新的里程碑。
查看原文

相似文章

K2-Horizon 的量化版本现已可用

Reddit r/LocalLLaMA

K2-Horizon AI 模型系列的量化版本现已可在 Hugging Face 上下载,支持从 0.9B 到 36B 参数的多种尺寸。但 llama.cpp 的支持仍在进行中,需要使用分支版本。