autotrust/GLM5.3-Flash-E224-DGX-Spark
摘要
autotrust 发布的 GLM5.3-Flash-E224-DGX-Spark 模型仓库,是基于 zai-org/GLM-5.3-Flash 的图像-文本到文本(image-text-to-text)量化版本,支持 NVFP4/8-bit 量化,可在 DGX Spark (GB10/Blackwell) 上通过 vLLM 运行。
任务:图像-文本到文本
标签:vllm, safetensors, glm5_next, autotrust, moe, nvfp4, modelopt, dgx-spark, gb10, blackwell, expert-pruned, image-text-to-text, conversational, en, zh, base_model:zai-org/GLM-5.3-Flash, base_model:quantized:zai-org/GLM-5.3-Flash, license:mit, 8-bit, region:us
相似文章
@MiaAI_lab: GLM 5.3 Flash on 2x DGX Sparks 看看顶部的 tok/s :) 这是散文。即将发布。
GLM 5.3 Flash 是一款即将推出的 AI 模型,在 2x DGX Spark 系统上展示高 tok/s 性能,即将发布。
zai-org/GLM-5.3-Flash
GLM-5.3-Flash 是 GLM-5 系列中首个原生多模态模型,拥有 3200 亿总参数和 180 亿活动参数,通过重新设计的混合架构提高了效率,性能超越之前的版本并接近 Claude Opus 4.8。
@FeitengLi: LLM 玩的好多技术 Povey 在 Zipformer 里都探索过
Z.ai 推出 GLM-5.3-Flash,这是一个具有 1M 代币上下文窗口的多模态 AI 模型,参数规模为 320B-A18B,并以 MIT 许可证发布。
unsloth/GLM-5.3-Flash-GGUF
GLM-5.3-Flash 是 GLM-5 系列中首个原生多模态模型,拥有 3200 亿总参数和 180 亿活跃参数,采用混合稀疏线性注意力架构以降低成本,同时在基准测试中性能超越前代版本并接近 Claude Opus 4.8。
@norsyx:GLM 5.3 Full 3bpw 在 4x DGX Sparks 上运行成功 附注:来自我修改过的 ZCode harness 截图,展示了各项性能指标
norsyx 报告 GLM 5.3 全量模型以 3bpw 量化在 4x DGX Sparks 上成功运行,并通过其修改过的 ZCode harness 截图展示了性能指标。