标签
作者利用 Apple 设备内置的 3B 参数本地模型(通过 Apple Neural Engine 运行)为其 OpenClaw 智能体团队构建了一个答案校验系统,用以检测并拦截工具输出中的幻觉或错误回答,且不占用主模型算力和带宽。
苹果宣布了用于iPhone 18 Pro的A20 Pro SoC,配备7核GPU,图形性能提升40%,32核神经引擎,以及50%内存带宽提升,均采用2纳米工艺制造。
苹果推出了M6和M5 Ultra芯片,以在Mac桌面上实现先进的本地AI推理,配备高统一内存和计算规格,支持在设备上运行大型语言模型。
苹果失败的自动驾驶汽车计划催生了神经引擎(Neural Engine)和强大的设备端AI芯片,这些如今支撑着苹果的AI硬件战略,包括即将推出的M7芯片及其重大神经引擎升级。
Apple Silicon 高管 Doug Brooks 解读 Mac mini 和 Mac Studio 在 AI 代理工作负载方面需求的激增,强调了苹果集成神经引擎的芯片设计理念,并讨论了出于隐私和成本考虑向设备端 AI 的转变,同时展望了一个混合的未来。
本文基于直接测量和静态分析,对A11-A18及M1-M5芯片中Apple Neural Engine(ANE)的架构、编程及性能进行了逆向工程解析。
Apple 宣布推出适用于 Core Image 的 RAW 9,这是一项重大更新,它使用分块的 CoreML 模型,在 Apple Neural Engine 上结合了去马赛克和降噪,从而显著提升了 Apple 平台上的 RAW 图像质量。
基准测试显示,在iPhone上本地运行Stable Diffusion 1.5,使用Realistic Vision V5.1 Hyper等优化模型,生成512x512图像最快仅需3.1秒,使得设备端AI图像生成变得切实可行。