Tag
SparkLLM 釋出 Spark-X2.6-4B 端側模型,具備 4B 參數、Apache 2.0 授權、最高 1M context 與 3 種思考模式,並支援 GGUF 本地部署。
Liquid AI 发布 LFM3-Omni-2B,其 LFM3 家族首款全模态模型,可理解文本、图像、视频和音频,并以文本和语音作答,专为手机、笔记本等边缘设备设计,2.2B 参数即可替代独立的 ASR、VLM、LLM 和 TTS 模型。
Alkove is an open-source (Apache-2.0) on-device voice front-end made of five tiny models (7.5 MB total) — a typed wake-word system, voiceprint-based speaker filtering, and personal VAD — running on a custom Rust inference engine with npm, pip, Android, LiveKit, and Pipecat packages, aimed at reducing false wake-ups and cross-talk before STT in local voice assistants.
Liquid AI 发布 LFM3-VL-2B,一款面向端侧视觉理解的 1.92B 视觉语言模型,支持文本、图像和视频输入,并引入视频理解、逐步思考以及空间与具身推理能力。
Spark-X2.6-4B is a compact 4B on-device language model released in GGUF format, featuring improved post-training for coding, agentic, long-context, and multilingual tasks along with a controllable thinking budget. It claims state-of-the-art performance among similarly sized open-source models, matching or surpassing ~9B parameter models.
Muse Glimmer 是一款 30B 参数的开源多模态智能体模型,通过 4-bit 量化可在消费级硬件上本地运行多步推理与工具调用,并在同尺寸级别 agentic 基准上超越 Gemma4-31B 和 Qwen3.6-27B,现以 Apache 2.0 协议发布。
OpenClaw 被集成到 NVIDIA 新款 RTX Spark 笔记本的引导设置中,用户无需打开终端即可选择本地模型或连接云服务完成配置。
推文讨论用开源的 MiniCPM-V 4.7 在自有硬件上做图像理解,避免每次上传图片都调用付费视觉 API 产生持续云成本,并介绍如何将其集成到 agent 工作流中。
PrismML 推出基于 Qwen3.5 的 Ternary Bonsai 2 系列新模型 2B、4B 和 9B,采用 {−1, 0, +1} 三值权重表示,内存占用比全精度模型小 9 倍以上,并在吞吐与能效上最高提升 5 倍和 3 倍,面向手机、电脑和可穿戴设备上的本地智能体场景。
PixLate 是一款在 Product Hunt 上发布的文档翻译工具,可在保留原有排版与插图的情况下翻译 PDF、扫描件和图文页面,并提供并排校对、后台处理与本地化隐私处理,采用按次计费模式。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、仅 2B 激活参数的开源权重推理模型,专为快速、私密的设备端智能体设计,在多个智能体与工具使用基准上超越更大的 MoE 模型。
Liquid AI 发布 LFM2.5-24B-A2B,采用 24B 总参数、每 token 仅激活 2B 的 MoE 架构,主打本地设备上的高效多步 Agent 任务,并将上下文扩展到 131K tokens。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 总参数、仅 2B 激活参数的推理型 MoE 模型,专为在本地设备上运行快速、私密的智能体而设计,在工具使用和智能体任务上可与参数量多约 50% 的模型竞争。
Google's EmbeddingGemma 2 embedding model has been repurposed into a speech-to-text tool that transcribes an hour of audio in about 13 seconds entirely on-device on a base MacBook Air, using a small trained reader on top of the frozen audio encoder.
有人将谷歌的 EmbeddingGemma 2 改造为语音识别模型,通过在冻结参数的嵌入模型上训练轻量级 Reader,把语音转写从生成问题变成检索问题,在 M3 MacBook Air 上实现 288× 实时速度(1 小时音频约 13 秒转写),WER 约 5%,可能重塑端侧 STT 市场。
OpenBMB 开源发布了 MiniCPM-V 4.7 35B-A3B 视觉语言模型,可在 iPhone/iPad 上以 13-17 tok/s 运行,并引入 LES(前瞻专家调度)技术加速 MoE 推理,同时更新 34 项多模态基准表现。
MiniCPM-V 4.7 1B 是 MiniCPM-V 系列最新模型,主打性能与效率的新帕累托前沿,采用早期视觉 token 压缩架构,支持 iOS/Android/HarmonyOS 及多家芯片平台的端侧部署,并提供 FP8 量化与 Self-Replay 微调方法。
Decision 3.0 has been converted to Core ML for Apple silicon, triaging 1,000 pull requests into vllm-sr workgroups entirely on device at 0.12 s per PR on an M5 Pro, with lite, nano and mini variants unified in one repo.
Google quietly released Foresight, a free Mac AI app for meeting notes and information retrieval that runs fully offline using EmbeddingGemma 2 and Gemma 4, keeping all audio and personal data local.
Google 推出了一款免费的 Mac AI 笔记应用,所有高级功能无需订阅即可使用,完全本地运行,由 Embedding Gemma 2 驱动。