coreml

有趣的小知识：你可以结合使用智能体和 CreateML，将任何 HuggingFace 模型转换为兼容 iOS 的 CoreML 模型，并使其运行速度提升至原来的约 3 倍。

Tinkerbox 是一款可将 LiquidAI d1-3B 等决策模型高效运行在 Apple Neural Engine 上的应用，支持通过 macOS Shortcuts 触发器实现无代码自动化，延迟低至约 40ms，并计划集成 vLLM/Qwen3.5 系列模型。

Laya 模型使用 CoreML 在苹果的 M4 芯片上离线运行，推理速度达到每秒45次决策。

Audiobookify 是一款适用于 iPhone 的 EPUB 阅读器应用，其特色是本地离线 TTS，并采用优化的 AI 模型，以提高电池续航和朗读质量。

作者将PP-OCRv6做成本地工作台并免费开源，支持Mac CoreML加速，提供Tiny/Small/Medium三种模型，支持图片上传、批量处理和多种导出格式，本地运行保护隐私。

在 iOS 27 模拟器文件中发现了 WaveRNN 和 FastSpeech2 模型，表明它们用于 Siri 的文本转语音，同时还有一个用于音乐会排名的逻辑回归模型。

本文对Apple M3 Ultra上的实时扩散模型推理进行了系统优化研究，通过CoreML转换和蒸馏模型在512x512分辨率下达到了22.7 FPS，揭示了针对CUDA优化的技术无法直接迁移到Apple统一内存架构。