显卡资源有限 - 别错过 Laguna XS 2.1

Reddit r/LocalLLaMA 模型
ai-model gpu-poor low-vram performance llm user-review

摘要

一位使用显存有限硬件的用户评测了 Laguna XS 2.1 模型，发现它性能出色，对于他的用例来说优于 Qwen 和 Gemma 等替代方案，尽管不够精致。

如标题所述。我与该模型背后的团队没有任何形式的关联。作为显卡资源有限的用户（笔记本 8 GB 显存 + 台式机 12 GB 显存），我发现 Laguna 在我的笔记本上非常有前景。它运行速度为 30t/s（60k 上下文），并且一次性完成了我的两个常用测试提示："制作一个类似俄罗斯方块的游戏" 和 "制作一个类似刺猬索尼克的游戏"。两者都不如使用 Qwen 3.6-3.8 27B 能得到的那么精致（说实话，它们相当不稳且几乎不可玩），但考虑到我的硬件，密集的 27B 甚至不是一个选项。我发现它在性能上优于 Gemma 4 - 26B-A4B 和 Qwen 3.6 35B-A3B。有些人报告了它的循环问题，所以我的话要持保留态度，但我没有遇到任何问题。希望这能帮助到你们中的一些人。编辑：更正
查看原文

相似文章