标签
一位使用显存有限硬件的用户评测了 Laguna XS 2.1 模型,发现它性能出色,对于他的用例来说优于 Qwen 和 Gemma 等替代方案,尽管不够精致。
LottoLabs 宣布了 LiquidAI 的 LFM2.5-8B-A1B-GGUF 模型,这是一个8B参数的模型,在大量token上训练,并针对有限GPU硬件上的快速推理进行了优化,支持 llama.cpp、Ollama、vLLM 等。