@yagilb: 我今年有幸在WWDC上演讲,在舞台上现场演示@lmstudio即将推出的聚类功能…
摘要
Yagil Bubrovnik在WWDC上演讲,现场演示了LM Studio即将推出的聚类功能,并对MLX团队的工作表示感谢。
查看缓存全文
缓存时间: 2026/06/11 19:41
今年我无比荣幸地在WWDC上进行了演讲,并在史蒂夫·乔布斯剧院的舞台上现场演示了 @lmstudio 即将推出的聚类功能。
这一切完全得益于传奇的MLX团队(包括现在和过去的成员)不可思议的工作:@trebolloc、@angeloskath、@awnihannun 以及所有其他人。
感谢邀请我参会!
相似文章
@awnihannun: Three MLX videos dropped at WWDC: Running agents locally by @angeloskath https://youtube.com/watch?v=wykPErJ8M-8… Distr…
Three MLX videos from WWDC demonstrate running AI agents entirely locally on Apple Silicon using the MLX stack, including local inference, tool calling, and distributed inference across Macs, enabling no-cloud, offline AI workflows.
@QuixiAI: @lmstudio 风靡网络!
LM Studio 在苹果新款 M5 Mac Studio 产品页面上被重点展示,突出其与硬件的集成。
@yibie:宣布我最近的项目:strata-mlx。Strata 太棒了:它可以运行拥有 1250 亿参数的混合专家模型 Qwen……
yibie 发布了 strata-mlx,这是一款面向 Mac 的非官方 MLX 推理引擎,可从 Strata 的 GGUF 文件运行 125B MoE 模型 Qwen3.8-Flash-Next,生成速度达到 llama.cpp 的 1.7–2.9 倍,并支持内存较小的 Mac 将专家卸载到 SSD。
@awnihannun: @angeloskath 关于使用MLX构建本地自主AI的视频非常出色。我还听说这是观看次数最多的视频之一……
一条推文强调了Angelos Kath在WWDC上关于使用MLX构建本地自主AI的出色视频,指出开源权重模型和硬件能力的快速进展。
在 Mac Studio 上使用 MLX 和 RDMA 进行本地与分布式大 LLM 推理
苹果发布新版 MLX 框架,展示如何在单台 Mac Studio 上运行 Muse Spark Open(近万亿参数)等前沿模型,并通过 RDMA over Thunderbolt 驱动在多台 Mac 间实现分布式张量/流水线并行推理,在四台 M5 Ultra 集群上达到每秒 36 tokens 以上的解码速度。