标签
CJ Zafir团队推出了Mac-1,一个6.6B参数的小模型,可在Mac本地运行仅需7GB内存,能链式调用487个Mac原生工具,推理速度达65 tok/s,旨在颠覆云端大模型主导的Agent范式。
llama.cpp server 现通过实验性标志内置了原生工具,支持文件操作、shell 命令等功能,无需外部包装器。