标签
SparkLLM 发布 Spark-X2.6-4B 端侧模型,具备 4B 参数、Apache 2.0 许可证、最高 1M 上下文与 3 种思考模式,并支持 GGUF 本地部署。
Liquid AI 发布 LFM3-Omni-2B,这是其 LFM3 系列的首款全模态模型,能够理解文本、图像、视频和音频,并以文本和语音形式作答。该模型专为手机、笔记本等边缘设备设计,仅需 2.2B 参数即可替代独立的 ASR、VLM、LLM 和 TTS 模型。
Alkove 是一个开源(Apache-2.0)的端侧语音前端,由五个微型模型(总计 7.5 MB)组成——可输入任意文本的唤醒词系统、基于声纹的说话人过滤,以及个人化 VAD——运行在自研的 Rust 推理引擎上,提供 npm、pip、Android、LiveKit 和 Pipecat 包,旨在 STT 之前减少本地语音助手的误唤醒和串音问题。
Liquid AI 发布 LFM3-VL-2B,一款面向端侧视觉理解的 1.92B 视觉语言模型,支持文本、图像和视频输入,并引入视频理解、逐步思考以及空间与具身推理能力。
Spark-X2.6-4B 是一款紧凑的 4B 端侧语言模型,以 GGUF 格式发布。它针对代码、智能体、长上下文和多语言任务进行了改进的后训练,并支持可控的思考预算。据称在同等规模的开源模型中达到了最先进性能,可匹敌甚至超越约 9B 参数的模型。
Muse Glimmer 是一款拥有 300 亿参数的开源多模态智能体模型,通过 4 位量化可在消费级硬件上本地运行多步推理与工具调用,并在同等规模的智能体基准测试中超越 Gemma4-31B 和 Qwen3.6-27B,现已采用 Apache 2.0 许可证发布。
OpenClaw 被集成到 NVIDIA 新款 RTX Spark 笔记本的引导设置中,用户无需打开终端即可选择本地模型或连接云服务完成配置。
推文讨论用开源的 MiniCPM-V 4.7 在自有硬件上做图像理解,避免每次上传图片都调用付费视觉 API 产生持续云成本,并介绍如何将其集成到 agent 工作流中。
PrismML 推出基于 Qwen3.5 的 Ternary Bonsai 2 系列新模型 2B、4B 和 9B,采用 {−1, 0, +1} 三值权重表示,内存占用比全精度模型小 9 倍以上,并在吞吐与能效上最高提升 5 倍和 3 倍,面向手机、电脑和可穿戴设备上的本地智能体场景。
PixLate 是一款在 Product Hunt 上发布的文档翻译工具,可在保留原有排版与插图的情况下翻译 PDF、扫描件和图文页面,并提供并排校对、后台处理与本地化隐私处理,采用按次计费模式。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、仅 2B 激活参数的开源权重推理模型,专为快速、私密的设备端智能体设计,在多个智能体与工具使用基准上超越更大的 MoE 模型。
Liquid AI 发布 LFM2.5-24B-A2B,采用总参数量为 240 亿、每个词元仅激活 20 亿参数的混合专家(MoE)架构,主打本地设备上的高效多步智能体任务,并将上下文扩展至 13.1 万词元。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 总参数、仅 2B 激活参数的推理型 MoE 模型,专为在本地设备上运行快速、私密的智能体而设计,在工具使用和智能体任务上可与参数量多约 50% 的模型竞争。
谷歌的 EmbeddingGemma 2 嵌入模型被改造成了一款语音转文字工具,通过在冻结的音频编码器之上添加一个经过训练的小型读取器,可在基础款 MacBook Air 上完全于本地运行,用约 13 秒转录一小时的音频。
有人将谷歌的 EmbeddingGemma 2 改造为语音识别模型,通过在冻结参数的嵌入模型上训练轻量级 Reader,把语音转写从生成问题变成检索问题,在 M3 MacBook Air 上实现 288× 实时速度(1 小时音频约 13 秒转写),WER 约 5%,可能重塑端侧 STT 市场。
OpenBMB 开源发布了 MiniCPM-V 4.7 35B-A3B 视觉语言模型,可在 iPhone/iPad 上以每秒 13–17 个词元的速度运行,并引入 LES(前瞻专家调度)技术加速 MoE(混合专家)推理,同时更新了在 34 项多模态基准测试中的表现。
MiniCPM-V 4.7 1B 是 MiniCPM-V 系列的最新模型,主打性能与效率的新帕累托前沿,采用早期视觉 token 压缩架构,支持 iOS/Android/HarmonyOS 及多家芯片平台的端侧部署,并提供 FP8 量化与 Self-Replay 微调方法。
Decision 3.0 已转换为面向 Apple 芯片的 Core ML 版本,在 M5 Pro 上完全在设备端将 1,000 个 pull request 分类到 vllm-sr 工作组中,每个 PR 仅需 0.12 秒,lite、nano 和 mini 三个变体已统一在一个仓库中。
Google 悄然发布了 Foresight,一款免费的 Mac AI 应用,用于会议记录和信息检索,基于 EmbeddingGemma 2 和 Gemma 4 完全离线运行,所有音频和个人数据均保留在本地。
Google 推出了一款免费的 Mac AI 笔记应用,所有高级功能无需订阅即可使用,完全本地运行,由 Embedding Gemma 2 驱动。