liquidai

LiquidAI发布了用于推测解码的草稿模型，以加速其LFM2.5模型，在H100和Apple硅芯片上实现高达2倍的推理加速，且不降低质量。

LiquidAI发布LFM 2.5，一款针对量化部署优化的语言模型，并提供GGUF格式，可在Hugging Face上获取。

LiquidAI releases LFM2.5-VL-3B, a 3B multimodal model for on-device deployment with improved OCR, grounding, and efficient inference, available in multiple formats including GGUF, ONNX, and MLX.