@rohanpaul_ai：苹果为本地推理迈出重大一步。他们刚刚推出M6和M5 Ultra，将更多AI推理转移到Mac桌面……

X AI KOLs Timeline 产品
apple-hardware ai-inference local-inference m6-processor m5-ultra neural-engine unified-memory

摘要

苹果推出了M6和M5 Ultra芯片，以在Mac桌面上实现先进的本地AI推理，配备高统一内存和计算规格，支持在设备上运行大型语言模型。

苹果为本地推理迈出重大一步。他们刚刚推出M6和M5 Ultra，将更多AI推理转移到Mac桌面。 M5 Ultra Mac Studio可配置高达256GB的统一内存，512GB版本将于10月推出。 M6首次出现在Mac mini中，是苹果首款2nm芯片，配备12核CPU、12核GPU和双16核神经引擎。 更小的工艺提高了晶体管密度，而GPU神经加速器和170GB/s的内存带宽为本地模型提供了更多计算和更快的数据访问。 M5 Ultra通过UltraFusion将两个双芯片M5 Max芯片连接起来，成为苹果首款四芯片SoC，进一步推进了这种方法。 它扩展到36个CPU核心、80个GPU核心、512GB统一内存和1.2TB/s带宽，比M3 Ultra高出50%。 内存容量改变了AI的使用方式，因为苹果表示它可以完全在设备上容纳拥有数千亿参数的LLMs。 苹果还支持Thunderbolt 5集群与RDMA，这将让多个Mac Studio系统汇集内存用于分布式推理。
查看原文
查看缓存全文

缓存时间: 2026/08/25 14:09

苹果为本地推理推出重磅举措。最新发布的M6与M5 Ultra芯片，正将更多AI推理任务转移至Mac桌面设备。

M5 Ultra版Mac Studio可配置高达256GB统一内存，10月还将推出512GB版本。

M6芯片首次应用于Mac mini，成为苹果首款2nm制程芯片，配备12核CPU、12核GPU及双16核神经网络引擎。

更小的制程提升了晶体管密度，配合GPU神经加速单元与170GB/s内存带宽，为本地模型提供更强算力与更快的数据访问速度。

M5 Ultra通过UltraFusion技术将两枚双芯片封装的M5 Max融合，打造出苹果首款四芯片封装SoC。

该芯片扩展至36核CPU、80核GPU、512GB统一内存与1.2TB/s带宽，相比M3 Ultra提升50%。

内存容量的突破改变了AI应用方式——苹果表示该芯片可完全在设备端运行包含数千亿参数的大语言模型。

同时苹果支持Thunderbolt 5集群的RDMA技术，未来将允许多台Mac Studio系统组建内存池，实现分布式推理。

相似文章

Apple 新桌面电脑专为本地 AI 开发设计

Ars Technica

Apple 宣布推出搭载 M5 芯片的新款 Mac Studio 和 Mac Mini 桌面电脑，专为本地 AI 推理设计，允许开发者在本地运行 AI 模型，无需承担昂贵的云成本。

Apple 新 M6 芯片获得更多核心和更强 AI 计算能力

The Verge

Apple 宣布其新款 M6 芯片，这是首款采用 2nm 工艺的芯片，具有增强的性能和 AI 计算能力，同时还推出了用于高端任务的 M5 Ultra。这些芯片将为新款 Mac Mini 和 Mac Studio 提供动力，即将开放预购。