apple-silicon

标签

Cards List
#apple-silicon

基准测试:在 Kapitsa 上使用 KFlash,在 M5 Max 2026 上测试 Qwen 27B、35B、QFN180B;Nemotron Bolt 74B、Flint40B 和 Clover 35B(Q4)[P]

Reddit r/MachineLearning ↗ · 6天前

开源 Apple Silicon 推理引擎 Kapitsa 0.2.26 公布了 Qwen、Nemotron、Flint 和 Clover 模型在 M5 Max 上的基准测试结果,展示了其 KFlash 最佳优先树验证技术和 SSD 卸载功能,可在配备 48GB 内存的 MacBook Pro 上以每秒 61 个 token 的速度运行 180B 参数的 MoE 模型。

0 人收藏 0 人点赞
#apple-silicon

[发布] Drex Max v1:开放权重 27B 多模态决策模型,262K 上下文,支持 Apple Silicon 本地推理

Reddit r/LocalLLaMA ↗ · 2026-11-01 缓存

Nace.AI 发布了 Drex Max v1,这是一个开放权重的 27B 多模态决策模型,配备 255 路读出头和 262K token 上下文,可在单次前向传播中返回各选项的概率分布,在公开的 Decision Index 0.4 基准上得分 67.52,并可通过 llama.cpp、Ollama 和 MLX 在 Apple Silicon 上本地运行。

1 人收藏 1 人点赞
#apple-silicon

@akshay_pachaar:推测解码技术迎来重大突破!它让我 MacBook 上的 9B 大模型速度提升了 4 倍,比普通推测解码还快 2.6 倍……

X AI KOLs Timeline ↗ · 2026-10-30 缓存

TryMirai 开源了 uzu —— 一款 Apple Silicon 推理引擎,其核心特性是 Weaver + DFlash 投机解码,能让 9B 参数 LLM(Qwen3.5)在本地运行速度提升 4 倍,比标准投机解码快 2.6 倍。

0 人收藏 0 人点赞
#apple-silicon

@realfxw: 终于有人把“本地大模型打真实电话”做出来了,而且完全开源! 以往体验市面上的各类 AI 电话助手,最让人顾虑的就是隐私安全:通话录音、转写文本、沟通对象全都会留在第三方云端。开发者刚刚开源的 ai-phone 则彻底打通了本地闭环——让你…

X AI KOLs Timeline ↗ · 2026-10-29 缓存

开源项目 ai-phone 让 Mac 直接接管真实电话线路,所有语音识别、大模型推理和语音合成都在本地完成,通话数据不出机器,支持实时打断和编码智能体通过 CLI 编排通话。

0 人收藏 0 人点赞
#apple-silicon

@MKBHD: NEW VIDEO - Apple decided to drop a touchscreen Macbook Pro today. Let's talk about it: https://youtu.be/2reQut8WNGc

X AI KOLs Timeline ↗ · 2026-10-29 缓存

MKBHD 评测 Apple 新推出的触摸屏 MacBook Pro:搭载串联 OLED 显示屏(ProLED XDR)、更轻更薄、起售价 2900 美元,配备 M5 Pro/Max 芯片,但触摸屏本身并未解决真实痛点,真正的升级理由是 OLED 与大幅减重。

0 人收藏 0 人点赞
#apple-silicon

@akshay_pachaar: 本地 LLM 推理的重大突破!这个开源引擎在 MacBook 上的 token 生成速度比 Ollama 快 2.7 倍:我测试了…

X AI KOLs Following ↗ · 2026-10-28 缓存

Magnitude 是一个开源的 Rust LLM 推理引擎,能够根据你的本地硬件自动调优 GPU kernel,声称在 MacBook 上解码速度比 Ollama 快 2.7 倍,预填充速度快 1.6 倍,并支持一键集成到 Claude Code 和 Codex 等 agent 中。

0 人收藏 0 人点赞
#apple-silicon

全新 M6 芯片 14 英寸 MacBook Pro

Hacker News Top ↗ · 2026-10-27 缓存

Apple 推出了搭载 M6 芯片的全新 14 英寸 MacBook Pro,图形性能提升高达 30%,AI 工作负载处理速度提升 25%,支持设备端大语言模型,配备 Wi-Fi 7,续航时间最长可达 24 小时。该产品将于 10 月 28 日开始接受预购,11 月 6 日起正式发售。

0 人收藏 0 人点赞
#apple-silicon

在 MacBook 上用一个 9 亿参数的转录 + 说话人分离模型处理了一段 17.5 分钟、4 人参与的 AMI 会议录音:识别出全部 4 位说话人,说话人混淆率为 0.08%,耗时 12 分钟

Reddit r/LocalLLaMA ↗ · 2026-10-22

作者在 MacBook Pro (M5 Pro, 64GB) 上用 MPS 后端运行 0.9B 的 MOSS-Transcribe-Diarize 模型,对 AMI 测试集一段 17.5 分钟、4 人会议做单次转写+说话人分离,仅用 12 分钟(约 0.68x 实时)完成,4 位说话人全部识别,说话人混淆率仅 0.08%,DER 为 15.4%,并能正确处理重叠对话。

0 人收藏 0 人点赞
#apple-silicon

基准测试:Recursive 的 Flint 40B A2.5B Q4 在配备 48GB 内存的 MacBook Pro M4 Pro 上,使用针对 Apple Silicon 优化的开源引擎 Kapitsa,达到 128 tok/s,兼容 Claude/Codex/Pi/OpenCode。

Reddit r/LocalLLaMA ↗ · 2026-10-22

Kapitsa 是一款针对 Apple Silicon 优化的开源推理引擎,在配备 48GB 内存的 MacBook Pro M4 Pro 上运行 Recursive 全新的 Flint 40B Q4 模型时,解码速度达到每秒 128 个 token,在长上下文解码和预填充基准测试中优于 llama.cpp 和 Recursive 自家的引擎。

0 人收藏 0 人点赞
#apple-silicon

KFlash:新发布的 Apple Silicon 优化引擎基准测试:1.4.0 Splash(DFlash2 ~ 50 tok/s)对比 0.2 Kapitsa(KFlash ~65 tok/s),在 Qwen 3.8 27b/4b/35b 4Q 上测试 MLX(MTP) 等,测试平台为 Macbook Pro M4 Pro 48GB 2024 和 Macbook Pro M1 Pro 16GB 2021

Reddit r/LocalLLaMA ↗ · 2026-10-21

Nace.AI 的 Kapitsa 0.2 随之推出 KFlash——一种面向 Apple Silicon 的基于 best-first 树搜索的投机解码(speculative decoding)方法。该方法在 M4 Pro 和 M1 Pro MacBook 上,基于 Qwen 模型与 Splash 1.4.0 的 DFlash2、mlx-serve、Ollama、llama.cpp 等方案进行了基准测试,展现出顶尖的解码吞吐量(约 65–201 tok/s)。

0 人收藏 0 人点赞
#apple-silicon

@yedabinbinah: 拼多多Mac mini M6,补贴价4299元 基础版:16G256硬盘 4299的价格具体方法: 1. 拼多多 - 百亿补贴 - 百亿补贴奢品馆- 领取100券 2. 双十一期间每天的0点、10点、12点、16点、20点、22点,可以领…

X AI KOLs Timeline ↗ · 2026-10-21 缓存

拼多多百亿补贴双十一活动期间,Mac mini M6 基础版(16G/256GB)通过叠加优惠券可低至约4299元,比官网便宜约2400元。

0 人收藏 0 人点赞
#apple-silicon

PyTorch 2.15 中的 MPS

Hugging Face Blog ↗ · 2026-10-20 缓存

PyTorch 2.15 为 Mac 用户带来了 MPS 后端的重大改进,包括 FP8 支持、MoE 模型解码速度提升 5-6.5 倍、softmax 速度提升 8 倍,以及视频 VAE 解码内存占用的大幅降低。这些改进由 Hugging Face 的 PyTorch 团队和社区贡献者共同推动。

0 人收藏 0 人点赞
#apple-silicon

Android 应用在 macOS 上原生运行

Hacker News Top ↗ · 2026-10-19 缓存

Mac.apk 是一个开源工具,可在 Apple Silicon Mac 上以原生方式直接运行 Android 应用,无需模拟器、虚拟机或 Linux 内核。应用以普通 macOS 进程运行,并利用 GPU 进行渲染。目前处于 Alpha 阶段,已测试 65 款应用,其中 51 款可完全运行。

0 人收藏 0 人点赞
#apple-silicon

Kapitsa:专为 Qwen 和 Nemotron 打造的开源 Apple Silicon 优化 Metal 引擎。查看 Qwen 27B、Nemotron 等 8 个模型在 M1 Pro(16GB)、M4 Pro(48GB)和 M5 Max(128GB)上的基准测试

Reddit r/LocalLLaMA ↗ · 2026-10-19

Nace.ai 发布开源(Apache 2.0)Apple Silicon 优化 Metal 推理引擎 Kapitsa,专为 Qwen 和 Nemotron 模型定制内核,并在 M1 Pro、M4 Pro、M5 Max 上公布对比 MLX、llama.cpp、Ollama 等引擎的解码基准。

0 人收藏 0 人点赞
#apple-silicon

@liyong2077: M4 MacBook Air 上运行《塞尔达传说:王国之泪》:秒加载、90 FPS。现已开源!快来试试——在 GitHub 搜索 MacNativeGames。

X AI KOLs Following ↗ · 2026-10-18 缓存

MacNativeGames 是一个开源项目,可在 Apple Silicon Mac 上原生运行《塞尔达传说:王国之泪》,通过将 NVN 图形接口重写为 Metal 4,并用一个小型主机(host)响应 Switch 服务,在 M4 MacBook Air 上实现了秒级加载和约 90 FPS 的性能表现。

0 人收藏 0 人点赞
#apple-silicon

Show HN:btop 看不到我 Mac 芯片的信息,于是我做了 siltop

Hacker News Top ↗ · 2026-10-17 缓存

Show HN 介绍 siltop——一个专为 Apple Silicon(M1–M5)打造的终端系统监控工具,无需 sudo 即可显示真实功耗、时钟频率和温度,开销仅约 1.3% 单核。

0 人收藏 0 人点赞
#apple-silicon

@ggerganov:llama.cpp v0.7.0,128GB Mac/Spark:llama serve -hf ggml-org/Qwen3.8-Flash-Next-GGUF:IQ4_NL --spec-type draft-mtp --lazy…

X AI KOLs Timeline ↗ · 2026-10-16 缓存

llama.cpp v0.7.0 发布,支持在 128GB Mac/Spark 配置上通过基于 MTP 的推测式解码运行 Qwen3.8-Flash-Next GGUF 模型,展示了高效的本地大模型服务能力。

0 人收藏 0 人点赞
#apple-silicon

在 Mac Studio 上使用 MLX 和 RDMA 进行本地与分布式大 LLM 推理

Reddit r/LocalLLaMA ↗ · 2026-10-15 缓存

苹果发布新版 MLX 框架,展示如何在单台 Mac Studio 上运行 Muse Spark Open(近万亿参数)等前沿模型,并通过 RDMA over Thunderbolt 驱动在多台 Mac 间实现分布式张量/流水线并行推理,在四台 M5 Ultra 集群上达到每秒 36 tokens 以上的解码速度。

0 人收藏 0 人点赞
#apple-silicon

@awnihannun: 两台 M5 Ultra + MLX 如今能达到的性能水平相当惊人

X AI KOLs Following ↗ · 2026-10-15 缓存

Awni Hannun 展示了两台 M5 Ultra 配合 MLX 所能达到的性能水平,凸显本地 Apple Silicon 推理能力的显著提升。

0 人收藏 0 人点赞
#apple-silicon

Muse Spark Open

Hacker News Top ↗ · 2026-10-15 缓存

Meta 发布 Muse Spark Open,宣称是美国最强开源权重模型:总参数 816B(激活 42B)、1M token 上下文、原生多模态,面向编码与智能体任务,且首次可在两台 Apple M5 Ultra Mac Studio 桌面端本地运行。

0 人收藏 0 人点赞
Next →
← 返回首页

提交意见反馈