标签
开源 Apple Silicon 推理引擎 Kapitsa 0.2.26 公布了 Qwen、Nemotron、Flint 和 Clover 模型在 M5 Max 上的基准测试结果,展示了其 KFlash 最佳优先树验证技术和 SSD 卸载功能,可在配备 48GB 内存的 MacBook Pro 上以每秒 61 个 token 的速度运行 180B 参数的 MoE 模型。
Nace.AI 发布了 Drex Max v1,这是一个开放权重的 27B 多模态决策模型,配备 255 路读出头和 262K token 上下文,可在单次前向传播中返回各选项的概率分布,在公开的 Decision Index 0.4 基准上得分 67.52,并可通过 llama.cpp、Ollama 和 MLX 在 Apple Silicon 上本地运行。
TryMirai 开源了 uzu —— 一款 Apple Silicon 推理引擎,其核心特性是 Weaver + DFlash 投机解码,能让 9B 参数 LLM(Qwen3.5)在本地运行速度提升 4 倍,比标准投机解码快 2.6 倍。
开源项目 ai-phone 让 Mac 直接接管真实电话线路,所有语音识别、大模型推理和语音合成都在本地完成,通话数据不出机器,支持实时打断和编码智能体通过 CLI 编排通话。
MKBHD 评测 Apple 新推出的触摸屏 MacBook Pro:搭载串联 OLED 显示屏(ProLED XDR)、更轻更薄、起售价 2900 美元,配备 M5 Pro/Max 芯片,但触摸屏本身并未解决真实痛点,真正的升级理由是 OLED 与大幅减重。
Magnitude 是一个开源的 Rust LLM 推理引擎,能够根据你的本地硬件自动调优 GPU kernel,声称在 MacBook 上解码速度比 Ollama 快 2.7 倍,预填充速度快 1.6 倍,并支持一键集成到 Claude Code 和 Codex 等 agent 中。
Apple 推出了搭载 M6 芯片的全新 14 英寸 MacBook Pro,图形性能提升高达 30%,AI 工作负载处理速度提升 25%,支持设备端大语言模型,配备 Wi-Fi 7,续航时间最长可达 24 小时。该产品将于 10 月 28 日开始接受预购,11 月 6 日起正式发售。
作者在 MacBook Pro (M5 Pro, 64GB) 上用 MPS 后端运行 0.9B 的 MOSS-Transcribe-Diarize 模型,对 AMI 测试集一段 17.5 分钟、4 人会议做单次转写+说话人分离,仅用 12 分钟(约 0.68x 实时)完成,4 位说话人全部识别,说话人混淆率仅 0.08%,DER 为 15.4%,并能正确处理重叠对话。
Kapitsa 是一款针对 Apple Silicon 优化的开源推理引擎,在配备 48GB 内存的 MacBook Pro M4 Pro 上运行 Recursive 全新的 Flint 40B Q4 模型时,解码速度达到每秒 128 个 token,在长上下文解码和预填充基准测试中优于 llama.cpp 和 Recursive 自家的引擎。
Nace.AI 的 Kapitsa 0.2 随之推出 KFlash——一种面向 Apple Silicon 的基于 best-first 树搜索的投机解码(speculative decoding)方法。该方法在 M4 Pro 和 M1 Pro MacBook 上,基于 Qwen 模型与 Splash 1.4.0 的 DFlash2、mlx-serve、Ollama、llama.cpp 等方案进行了基准测试,展现出顶尖的解码吞吐量(约 65–201 tok/s)。
拼多多百亿补贴双十一活动期间,Mac mini M6 基础版(16G/256GB)通过叠加优惠券可低至约4299元,比官网便宜约2400元。
PyTorch 2.15 为 Mac 用户带来了 MPS 后端的重大改进,包括 FP8 支持、MoE 模型解码速度提升 5-6.5 倍、softmax 速度提升 8 倍,以及视频 VAE 解码内存占用的大幅降低。这些改进由 Hugging Face 的 PyTorch 团队和社区贡献者共同推动。
Mac.apk 是一个开源工具,可在 Apple Silicon Mac 上以原生方式直接运行 Android 应用,无需模拟器、虚拟机或 Linux 内核。应用以普通 macOS 进程运行,并利用 GPU 进行渲染。目前处于 Alpha 阶段,已测试 65 款应用,其中 51 款可完全运行。
Nace.ai 发布开源(Apache 2.0)Apple Silicon 优化 Metal 推理引擎 Kapitsa,专为 Qwen 和 Nemotron 模型定制内核,并在 M1 Pro、M4 Pro、M5 Max 上公布对比 MLX、llama.cpp、Ollama 等引擎的解码基准。
MacNativeGames 是一个开源项目,可在 Apple Silicon Mac 上原生运行《塞尔达传说:王国之泪》,通过将 NVN 图形接口重写为 Metal 4,并用一个小型主机(host)响应 Switch 服务,在 M4 MacBook Air 上实现了秒级加载和约 90 FPS 的性能表现。
Show HN 介绍 siltop——一个专为 Apple Silicon(M1–M5)打造的终端系统监控工具,无需 sudo 即可显示真实功耗、时钟频率和温度,开销仅约 1.3% 单核。
llama.cpp v0.7.0 发布,支持在 128GB Mac/Spark 配置上通过基于 MTP 的推测式解码运行 Qwen3.8-Flash-Next GGUF 模型,展示了高效的本地大模型服务能力。
苹果发布新版 MLX 框架,展示如何在单台 Mac Studio 上运行 Muse Spark Open(近万亿参数)等前沿模型,并通过 RDMA over Thunderbolt 驱动在多台 Mac 间实现分布式张量/流水线并行推理,在四台 M5 Ultra 集群上达到每秒 36 tokens 以上的解码速度。
Awni Hannun 展示了两台 M5 Ultra 配合 MLX 所能达到的性能水平,凸显本地 Apple Silicon 推理能力的显著提升。
Meta 发布 Muse Spark Open,宣称是美国最强开源权重模型:总参数 816B(激活 42B)、1M token 上下文、原生多模态,面向编码与智能体任务,且首次可在两台 Apple M5 Ultra Mac Studio 桌面端本地运行。