标签
作者分享了使用 LFM 2.6B 的亲身经历，这是一款为手机设计的小型模型，作者称赞其速度和完成快速任务的实用性，例如摘要和自动补全，不过它只有 128k 的上下文限制。
NVIDIA 的完整语音技术栈——ASR、TTS 和编解码器——现已量化为 GGUF，并通过 NeMo-Speech.cpp 在设备端本地运行，同时发布了 Magpie-TTS、Nemotron Speech Streaming 和 Parakeet 的新模型。
Maxime Labonne 强调了 LFM2.5-2.6B 的早期微调成果，同时 Bad Theory Labs 发布了两个开放权重模型：BTL-4 35B（前沿智能体推理模型）和 Macaw 2.7B（设备端 Mac 智能体），在 BFCL v4 上表现突出。
VisionPsy-Nano-460M-Flash 是一款全新的460M视觉语言模型，每张图像仅使用64个视觉token，在iPhone上首token延迟降至0.3秒，同时保留了完整模型约99%的基准分数。这种优化牺牲了部分OCR和精细细节质量。
MemArena 是一种新的自我中心基准，用于评估设备端个人记忆助手，它使用 MASim 智能体模拟器生成多会话对话世界，并在回忆、推理和可信度维度上提供真值。初步结果表明，记忆后端的选择通常比读取器规模更重要，而基于权限的访问仍然是一个普遍挑战。
VibeVoice 1.5B 可在 iPhone 上本地运行，占用约 2.2 GB 内存，速度最高可达实时速度的 1.28 倍；作者计划发布 audio.cpp 的 xcframework 和代码。
Liquid AI 发布了 LFM2.5-2.6B，这是一款紧凑的智能体模型，设计为完全在设备端运行，从而实现免费推理、低延迟和隐私保护。文章详细介绍了其训练流程，包括 SFT、教师特化、蒸馏和智能体强化学习。
DeepGrove 发布了 Maple-Preview，这是一款开源的 20B-A1B 三值权重推理大语言模型，在同类权重规模中推理能力达到最先进水平，在 Mac mini M4 上每秒可生成 200+ tokens，并与更大模型相比具有竞争力。
Maple-Preview 是一个三值 20B MoE 模型，在 iPhone 上每秒可运行 120 个 token，展现了高效的端侧推理能力。
NewEyes 是 Collov Labs 推出的一款消费级 AI 应用，利用设备端多模态智能，让摄像头理解并对世界作出反应——实现视觉购物、风格搭配、房间设计、卡路里计数等功能。
Liquid AI 发布了 LFM2.5-2.6B，这是一款端侧智能体模型，能够在手机、笔记本电脑、PC 和机器人上规划任务、调用工具并完成多步操作，且数据始终不离开设备。
Liquid AI releases LFM2.5-2.6B, a compact agentic model designed for on-device deployment, supporting tool calling and multi-step workflows with efficient inference on CPUs and GPUs.
This paper proposes CoRA, a gradient-free framework for task-conditioned retrieval in on-device in-context learning, using frozen encoders and closed-form ridge regression to build compact retrieval bases without fine-tuning or backpropagation.
Liquid AI的后训练主管解释了如何使用LFM2.5、on-policy偏好对齐、智能体RL、课程训练和迭代模型合并，在20分钟内构建一个小于1GB的设备端模型，其工具调用可靠性超越了更大的模型。
一款免费的本地应用程序，让你可以通过语音与编程或AI代理对话并接收语音回复，支持截图，还可以在无需API密钥的情况下连接会议录音。
Liquid AI released LFM2.5-2.6B, a 2.6B-parameter hybrid model optimized for on-device deployment with 128K context, agentic post-training, and fast inference (220 tok/s on Apple M5 Max) under 2.5GB memory.
Yap 是一款开源的 macOS 应用，利用 Apple 的 Speech 框架实现极速本地语音听写，无需下载模型、API 密钥或互联网连接。