@berryxia: 我靠，这不直接抢了苹果的活儿啊！ 6.6B的小模型直接把Siri和一堆云端巨头干到闭嘴，还只吃7GB内存就跑在Mac本地。 CJ Zafir他们搞的Mac-1，不光参数小到离谱，还一次性接了487个Mac原生工具，能链式调用、自动推理、连…

X AI KOLs Timeline 模型
small-model local-inference mac native-tools agent

摘要

CJ Zafir团队推出了Mac-1，一个6.6B参数的小模型，可在Mac本地运行仅需7GB内存，能链式调用487个Mac原生工具，推理速度达65 tok/s，旨在颠覆云端大模型主导的Agent范式。

我靠，这不直接抢了苹果的活儿啊！ 6.6B的小模型直接把Siri和一堆云端巨头干到闭嘴，还只吃7GB内存就跑在Mac本地。 CJ Zafir他们搞的Mac-1，不光参数小到离谱，还一次性接了487个Mac原生工具，能链式调用、自动推理、连发邮件订会议都行，速度65 tok/s，UI还是纯Mac风。 以前大家都觉得agent要靠大模型+云端才能靠谱，结果这个本地小家伙直接把“模型越大越强”的理论快要掀桌子了。 它真正厉害的地方是把应用层做成了Mac原生体验，人用着舒服，Agent后台自己干活。 云端SaaS的agent时代，可能还没真正开始，就已经被本地小模型+原生工具的组合终结了。 感觉苹果没有做成的事儿，被这家公司嘿干了啊！ 完了实际测测支持中文方便是否也丝滑～
查看原文
查看缓存全文

缓存时间: 2026/06/08 21:32

我靠，这不直接抢了苹果的活儿啊！

6.6B的小模型直接把Siri和一堆云端巨头干到闭嘴，还只吃7GB内存就跑在Mac本地。

CJ Zafir他们搞的Mac-1，不光参数小到离谱，还一次性接了487个Mac原生工具，能链式调用、自动推理、连发邮件订会议都行，速度65 tok/s，UI还是纯Mac风。

以前大家都觉得agent要靠大模型+云端才能靠谱，结果这个本地小家伙直接把“模型越大越强”的理论快要掀桌子了。

它真正厉害的地方是把应用层做成了Mac原生体验，人用着舒服，Agent后台自己干活。

云端SaaS的agent时代，可能还没真正开始，就已经被本地小模型+原生工具的组合终结了。 感觉苹果没有做成的事儿，被这家公司嘿干了啊！

完了实际测测支持中文方便是否也丝滑～

CJ Zafir (@cjzafir): Here’s a teaser of our Mac-1 model.

> 6.6B model > runs locally (on any Mac) > requires 7GB RAM (12GB ideal) > can use 487 MacOS native tools > perform multi-tool chained tasks > reasoning: ON > output: ~65 tok/s

We built a robust application layer around the model to make

相似文章

@berryxia: Apple 一直其实在赌端侧模型的应用！ 统一架构内存就是端侧模型的天然温床！ 统一内存也就是，内存即显存。 也看到越来越多的优秀端侧模型出现。 OpenBMB 把 MiniCPM-V 4.6 这个 1.3B 的多模态模型放出来了，我看完…

X AI KOLs Timeline

OpenBMB 发布了 MiniCPM-V 4.6，一个 1.3B 参数的多模态模型，通过高分辨率视觉处理和高效压缩技术，在消费级硬件和手机上实现快速推理，性能超过同类大模型，且全面开源支持多种推理和量化框架。

@cevenif: 用苹果电脑跑本地大模型的朋友，有个工具值得盯上——Rapid-MLX。它在 M 系列芯片上的推理速度比 Ollama 快 2 到 4 倍，因为它是直接基于苹果的 MLX 框架开发的，对芯片架构的压榨更彻底。 几个关键点： KV 缓存裁剪加…

X AI KOLs Timeline

Rapid-MLX 是一个针对苹果 M 系列芯片优化的本地大模型推理工具，基于 MLX 框架开发，推理速度比 Ollama 快 2 到 4 倍，支持多种模型、工具调用及 OpenAI API 兼容接口。