@Sentdex: 检测到:Unsloth 对 GLM 5.2 的量化版本即将发布。
摘要
Unsloth 针对 GLM 5.2 模型的量化版本正在发布中。
检测到情况:Unsloth 针对 GLM 5.2 的量化版本即将推出。https://t.co/OkiT2tiqAQ
查看缓存全文
缓存时间: 2026/06/18 00:01
检测到情况:Unsloth 针对 GLM 5.2 的量化版本正在推出。https://t.co/OkiT2tiqAQ
相似文章
PSA: unsloth/GLM-5.2-GGUF 正在上传
unsloth 已将 GLM-5.2 的 GGUF 版本上传至 Hugging Face,为 llama.cpp、vLLM 和 SGLang 等多种推理引擎提供了可直接使用的模型文件。
@aisearchio: GLM 5.2 GGUF 已经来了!8位版本大小约为完整模型的一半。更小版本即将推出 https://huggingfa…
GLM 5.2 GGUF 量化模型已发布,8位版本大小约为完整模型的一半;更小版本即将推出。
@UnslothAI: GLM-5.2 现在可以本地运行!2-bit 模型在从 1.51TB 缩小到 238GB(-84% 大小)后保留了约 82% 的准确率…
UnslothAI 宣布 GLM-5.2,Z.ai 的最强开源模型,拥有 744B 参数,现在可以通过动态 GGUF 量化在本地运行,将大小减少约 84% 至 239GB,同时保留约 82% 的准确率。它适用于 256GB Mac 以及 RAM/VRAM 配置,并支持长上下文、推理和代理任务。
@pcuenq:GLM 5.2 刚刚发布,现在已经在两台 Mac Studio(M3 Ultra)上通过 MLX 运行。这相当于……
GLM 5.2 是一款与顶级闭源模型相媲美的开放权重 AI 模型,现已发布,并在两台 Mac Studio(M3 Ultra)上通过 MLX 运行。
Unsloth 对 Mistral Small 4 的修复?
每个量化版本都已更新 [https://huggingface.co/unsloth/Mistral-Small-4-119B-2603-GGUF](https://huggingface.co/unsloth/Mistral-Small-4-119B-2603-GGUF)