apple-neural-engine

标签

Cards List
#apple-neural-engine

我开发了一款应用,可通过 Shortcuts 动作在 Apple Neural Engine 上高效运行决策模型,实现系统自动化

Reddit r/LocalLLaMA ↗ · 2026-10-19

Tinkerbox 是一款可将 LiquidAI d1-3B 等决策模型高效运行在 Apple Neural Engine 上的应用,支持通过 macOS Shortcuts 触发器实现无代码自动化,延迟低至约 40ms,并计划集成 vLLM/Qwen3.5 系列模型。

0 人收藏 0 人点赞
#apple-neural-engine

@FeitengLi:将 Ternary Bonsai 2 27B 迁移到 Apple 神经网络引擎,在配备 16GB 内存的 M6 Mac 上实现了约 52 tokens/s 的代码生成速度……

X AI KOLs Timeline ↗ · 2026-10-14 缓存

作者将 Ternary Bonsai 2 27B 量化模型迁移到苹果神经网络引擎,在配备 16GB 内存的 M6 Mac mini 上实现了约每秒 52 个词元的代码生成速度,整机功耗仅约 12 瓦,显著优于 GPU 方案。项目基于 ANEMLL Forge,提供转换脚本、运行时补丁和兼容 OpenAI 的接口,并已适配 Grok Build。

0 人收藏 0 人点赞
#apple-neural-engine

逆向剖析Apple Neural Engine的演进

Hacker News Top ↗ · 2026-09-12 缓存

本文回溯性地逆向解析了M1芯片上的神经引擎架构,并探讨了其随着M5芯片将核心集成至GPU单元后的技术演进路径。

0 人收藏 0 人点赞
#apple-neural-engine

从苹果神经引擎中恢复 50 GB/S 的性能

Hacker News Top ↗ · 2026-09-10 缓存

在苹果 M3 神经引擎中,当权重大小为 1 MiB 的倍数时,发现了性能节流问题,导致吞吐量下降。通过避开有问题的 DMA 路径,Llama 3.2 和 Qwen3-8B 等模型的 token 吞吐量得到了显著改善。

0 人收藏 0 人点赞
#apple-neural-engine

@Underfox3: 本文基于对 Apple 硅芯片的直接测量,呈现了 Apple Neural Engine 的全面指南,…

X AI KOLs Timeline ↗ · 2026-06-28 缓存

一份全面的 Apple Neural Engine 逆向工程指南,详细介绍了其在 A11 至 A18 和 M1 至 M5 芯片上的架构、编程接口和性能,基于对私有运行时、编译器和固件的直接测量和静态分析。

0 人收藏 0 人点赞
#apple-neural-engine

@0x0SojalSec:苹果在每台 M4 Mac 和 iPhone 中隐藏了 15.8 TFLOPS 的原始 AI 算力。他们只允许你使用神经网络引擎进行推理。……

X AI KOLs Timeline ↗ · 2026-06-15 缓存

一位开发者逆向工程了苹果的私有 API,使得在 M4 Mac 和 iPhone 的 Apple 神经网络引擎(ANE)上直接训练神经网络成为可能,绕过了 CoreML 和 GPU。该项目表明 ANE 硬件能够进行训练,尽管存在利用率低以及某些操作回退到 CPU 等限制。

0 人收藏 0 人点赞
#apple-neural-engine

maderix/ANE

GitHub Trending (daily) ↗ · 2026-07-29 缓存

一种逆向工程实现,通过私有API在Apple Neural Engine上进行神经网络训练,展示了超出推理能力的硬件潜力。

0 人收藏 0 人点赞
← 返回首页

提交意见反馈