apple-silicon

标签

Cards List
#apple-silicon

在空气中超越光速:32GB M4 MacBook Air上的8-22 tg/s Qwen3.8-Flash-Next (Q4/Q4ish)

Reddit r/LocalLLaMA · 2026-09-10

Cherenkov是一个新的Apple Silicon推理引擎,使用预测专家流和混合精度执行,实现对像Qwen3.8-Flash-Next这样的大型AI模型的高效内存受限推理。

0 人收藏 0 人点赞
#apple-silicon

Apple Watch Series 12

Hacker News Top · 2026-09-09 缓存

苹果推出Apple Watch Series 12,搭载全新的Health Sensing System和S11芯片,提供准确的心率和HRV监测、AI驱动的音频智能以及Siri AI集成。

0 人收藏 0 人点赞
#apple-silicon

SOTA图像生成本地部署 NVIDIA Cosmos3(64B) INT4量化 CUDA/MLX

Reddit r/LocalLLaMA · 2026-09-09

NVIDIA Cosmos3,一个64B参数的图像生成模型,发布了INT4量化版本,支持在CUDA和MLX上本地部署,代码和权重可用,并在Apple Silicon上展示了性能。

0 人收藏 0 人点赞
#apple-silicon

Kimi K3(2.8T)在MacBook Pro上以1 token/s运行,从四个固态硬盘流式传输

Hacker News Top · 2026-09-08 缓存

Deltafin是一款开源工具,使得能够在像MacBook Pro这样的消费级硬件上运行完整的Kimi K3 2.8T参数模型,通过从固态硬盘流式传输数据,实现约每秒1个token的性能。

0 人收藏 0 人点赞
#apple-silicon

@marc_ibrahim: GameToMac 已发布。Age of Empires IV 在 Apple Silicon 上运行。高帧率,稳定。下载:https://gametomac.com 更多游戏即将推出…

X AI KOLs Timeline · 2026-09-07 缓存

GameToMac 是一个新工具,允许用户在 Apple Silicon Mac 上以高帧率和稳定性玩 Age of Empires IV,并计划在未来支持更多 Windows 游戏。

0 人收藏 0 人点赞
#apple-silicon

@Nativ_AI: Nativ v0.3.7 发布了 🔥🚀 项目和可移动的聊天:→ 将聊天按本地文件夹分组的项目 → 导入…

X AI KOLs Timeline · 2026-09-07 缓存

Nativ v0.3.7 已发布,引入了诸如用于分组聊天的项目、导入/导出功能、新的语音模型以及针对 Apple Silicon Mac 增强的本地 AI 功能。

0 人收藏 0 人点赞
#apple-silicon

Perplexity 开源其针对 Qwen 3.6 的 Mac 推理服务器

Reddit r/LocalLLaMA · 2026-09-02

Perplexity 开源了一款针对 Qwen 3.6 模型优化的 Mac 推理服务器,以在 Apple Silicon 上实现最佳性能。

0 人收藏 0 人点赞
#apple-silicon

@LinusEkenstam: 相当重要的进展。比MLX-LM推理速度快1.35倍,在预填充阶段速度快1.23倍,能够从内部选择混合选项。

X AI KOLs Timeline · 2026-09-02 缓存

Perplexity已经开源了Lily,这是一个针对Apple Silicon优化的本地推理引擎,专门用于Qwen3.6-35B-A3B模型,实现了比MLX-LM快1.35倍的推理速度。

0 人收藏 0 人点赞
#apple-silicon

@PyTorch:PyTorch 2.14 通过 NVGEMM 将 CuTeDSL 生成的 CUTLASS 内核引入 Inductor,为 PyTorch Distributed 提供新的 nccl2 后端…

X AI KOLs Following · 2026-09-02 缓存

PyTorch 2.14 引入了重大更新,包括在 Inductor 中使用 NVGEMM 处理 CUTLASS 内核,用于分布式计算的新 nccl2 后端,高级容错性,以及在 Apple Silicon 上的原生线性代数。

0 人收藏 0 人点赞
#apple-silicon

@dhh: 我们正在非常非常快速地推进一个完全精简的 Omarchy 安装程序,适用于 Apple M 系列机器。您只需下载我们的…

X AI KOLs Timeline · 2026-09-02 缓存

Omarchy 正在开发一个适用于 Apple M 机器的精简安装程序,使用户可以通过下载应用并选择空间分配来轻松安装系统。

0 人收藏 0 人点赞
#apple-silicon

优化Apple Silicon设备端推理(20分钟阅读)

TLDR AI · 2026-09-02

Apple的Lily引擎通过利用统一内存和硬件,优化了Apple silicon上的设备端LLM推理,性能超越MLX-LM,并针对Qwen3.6-35B-A3B模型架构进行了调优。

0 人收藏 0 人点赞
#apple-silicon

@PyTorch: PyTorch 2.14 引入了对 Inductor、PyTorch Distributed、c10d、动态形状、Apple Silicon 和加速器等的更新

X AI KOLs Timeline · 2026-09-01 缓存

PyTorch 2.14 引入了对 Inductor、PyTorch Distributed、动态形状、Apple Silicon 支持等方面的更新,并有现场问答和 PyTorchCon 公告。

0 人收藏 0 人点赞
#apple-silicon

Show HN: 在48GB Mac上运行104GB Qwen3.8-Flash-Next,速度约12 tok/s

Hacker News Top · 2026-09-01 缓存

slotstream 是一个开源工具,它通过从SSD流式传输模型权重,使得在内存有限的Mac上运行像Qwen3.8-Flash-Next这样的大型AI模型成为可能,在48GB Mac上实现了大约12 tokens每秒的速度。

0 人收藏 0 人点赞
#apple-silicon

Tim Cook 的 Apple:十大成功与失误

The Verge · 2026-09-01 缓存

本文回顾了 Tim Cook 担任 Apple CEO 的 15 年任期,重点介绍了服务增长和 Apple Silicon 等关键成功,以及他领导期间的一些明显失误。

0 人收藏 0 人点赞
#apple-silicon

llama.cpp Metal MoE 优化

Reddit r/LocalLLaMA · 2026-09-01

一位开发者分享了针对 llama.cpp 的 Metal 优化方案,可提升 Apple Silicon 上 IQ3_XXS 模型的解码速度,并在 GitHub 提交了拉取请求,呼吁社区参与测试。

0 人收藏 0 人点赞
#apple-silicon

GreenBench:在 Apple Silicon 上开源 LLM 推理的能效与碳足迹基准测试

arXiv cs.CL · 2026-09-01 缓存

GreenBench 是一个基准测试框架,用于评估 Apple Silicon 上开源 LLM 推理的能效和碳足迹,揭示其与数据中心 GPU 相比每令牌能耗优势达 30-40 倍,并识别不同使用场景下的最优模型。

0 人收藏 0 人点赞
#apple-silicon

在128 GB M5 Max上运行Qwen3.8-Flash-Next(79 GB,2-bit)以350K上下文持续3.5小时——速度与上下文深度权衡,100轮对话,一张图表

Reddit r/LocalLLaMA · 2026-08-30

本文报告了在MacBook Pro M5 Max上运行Qwen3.8-Flash-Next模型的情况,对100轮对话中速度与上下文深度进行基准测试,并深入分析性能及长上下文下角色混淆等问题。

0 人收藏 0 人点赞
#apple-silicon

~ 2 倍速度提升:针对 Apple Silicon 上的 Qwen3.8 27B

Reddit r/LocalLLaMA · 2026-08-29

MTPLX 框架在 Apple Silicon 上实现了 Qwen3.8 27B 模型 ~ 2 倍速度提升和 Qwen3.6 35B 模型 ~ 1.5 倍速度提升,具备自动调优和针对 MLX 模型的基准转换功能。

0 人收藏 0 人点赞
#apple-silicon

通过Apple的Virtualization.framework启动虚拟iPhone

Hacker News Top · 2026-08-28 缓存

vphone-cli是一个命令行工具,可以在Apple Silicon Macs上使用Apple的Virtualization.framework虚拟化iPhone,具有固件修补、越狱和管理功能。

0 人收藏 0 人点赞
#apple-silicon

@twtayaan: 志愿者团队将 Linux 带到 Apple MacBooks 上,几乎已准备好在 M3 上发布,完全没有 Apple 的帮助。这个 …

X AI KOLs Following · 2026-08-28 缓存

Asahi Linux 志愿者团队在逆向工程了摄像头和 USB 等组件后,几乎已准备好发布对 Apple M3 芯片的 Linux 支持,并且 M4 的计划已在进行中。

0 人收藏 0 人点赞
← Previous
Next →
← 返回首页

提交意见反馈