zml

标签

#zml

@steeve：又是5天后，zml/llmd完全在Metal上运行，以完整bf16精度服务8个并发请求 zml/llmd是我们的大语言模型服务…

X AI KOLs Following ↗ · 2026-06-13 缓存

zml/llmd现已完全在Apple的Metal API上运行，以完整bf16精度服务8个并发请求，并支持连续批处理等现代功能。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈