llada2

标签

#llada2

GitHub - coder543/minnow: 快速的 LLaDA2.2 推理服务器

Reddit r/LocalLLaMA ↗ · 7小时前缓存

Minnow 是一个用于 LLaDA2.2 模型的高性能 Rust 推理服务器，提供通过量化、GPU加速的优化推理，以及相比标准 Transformers 实现的显著速度提升。

0 人收藏 0 人点赞