标签
NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB,这是一个基于 Gemma 4 E4B 进行后训练的模型,具备多轮智能体和对话能力,针对在 RTX、Jetson 和 DGX Spark 设备上的运行进行了优化,宣称质量比同类模型高约 40%,输出 token 数量减少约 80%。
Arc-Transcriber 是一款约 70MB 的流式语音模型,可在单个步骤中完成自动语音识别(ASR)和命名实体识别(NER)/实体链接。它通过共享编码器上经过训练的任务头,每 100 毫秒输出一次转录文本、已链接的名称、数字、说话人角色和音频事件,从而省去常规的多模型处理流水线。目前已发布两个版本(Arc mini 和 Arc-v1),权重托管于 Hugging Face,代码托管于 GitHub。
Xenova 宣布突破:首个 100% 本地在浏览器中运行的真正全模态模型 LFM3-Omni-2B,借助自定义 WebGPU kernels 实现约 280 tok/s,支持视觉、音频和文本输入并生成交错的文本与音频输出。
OpenBMB 发布了 MiniCPM-OCR 1.0(1B),这是一款可在 iPhone/iPad 上本地运行的轻量级 OCR 模型,同时还发布了 MiniCPM-OCR-Jev(2B),这是一个根据源图像对 OCR 输出正确性进行评分的验证模型;两者均开放模型权重,并支持 llama.cpp、vLLM、SGLang 和 Ollama。
Liquid AI 发布 LFM3-Omni-2B 的 GGUF 版本,支持在 CPU/GPU 上本地推理。该模型可理解文本、图像、视频和音频,并以文本和语音输出,专为设备端使用打造。
Liquid AI 工程师展示 LFM3-Audio 模型在本地设备(一盏灯)上运行并进行语音对话,网友戏称“能否在灯上跑模型”正成为新的基准。
Liquid AI 发布第三代 Liquid Foundation Models(LFM3),首批包含六个 2B 级模型,覆盖文本、视觉、音频、全模态和决策任务,采用开放权重并共享主干架构,可在手机、笔记本和边缘设备上运行,权重已上线 Hugging Face。
Liquid AI 推出新一代 Liquid Foundation Models 系列 LFM3,采用共享骨干的多模态(文本、视觉、音频、全模态、决策)混合架构,首批 2B 参数级模型开放权重,可本地微调并跨设备运行。
NotiKeep 是一款 iPhone 通知历史记录应用,利用 iOS 27 Shortcuts 自动化在本地保存通知,支持查看已删除或已编辑的消息、按应用与会话搜索,以及关键词提醒,全程本地处理、无需账号。
Block 发布了 Dessa,这是一款完全基于真人语音训练的全双工语音到语音模型,可在消费级 GPU 上本地运行,能够生成富有表现力、宛如真人般的对话,并内置情感表达。
Liquid AI 发布了 LFM3-1.7B,这是一款拥有 17.3 亿参数的三重混合架构文本模型,专为本地智能体和边缘部署而设计,具备 256K token 的上下文窗口,在 4 位精度下仅需约 1 GB 内存,并支持通过单 GPU 微调实现领域专精。
一款免费的浏览器端 TTS 工具,完全在设备本地运行,使用 2.7 MB 模型和自定义的 136 kB WebAssembly 引擎,使 Kokoro 蒸馏的 Paradee 模型快了 12.9 倍,同时保持音质。作者详细拆解了每一步优化,并让用户可以在浏览器中实时进行基准测试。
WhissleAI 发布了 SteerTTS-Edge,这是一款支持可控语音合成的小型英语 TTS 模型,通过对声学模型进行 int4 量化感知训练,并采用蒸馏后的 Vocos 声码器,将模型压缩至 11.84 MB,同时保持语音可懂度不变(WER 为 0.96%),UTMOS 仅下降约 0.1 分,并保留了全部 12 项控制功能。
作者在 MacBook Pro (M5 Pro, 64GB) 上用 MPS 后端运行 0.9B 的 MOSS-Transcribe-Diarize 模型,对 AMI 测试集一段 17.5 分钟、4 人会议做单次转写+说话人分离,仅用 12 分钟(约 0.68x 实时)完成,4 位说话人全部识别,说话人混淆率仅 0.08%,DER 为 15.4%,并能正确处理重叠对话。
SparkLLM 发布 Spark-X2.6-4B 端侧模型,具备 4B 参数、Apache 2.0 许可证、最高 1M 上下文与 3 种思考模式,并支持 GGUF 本地部署。
Liquid AI 发布 LFM3-Omni-2B,这是其 LFM3 系列的首款全模态模型,能够理解文本、图像、视频和音频,并以文本和语音形式作答。该模型专为手机、笔记本等边缘设备设计,仅需 2.2B 参数即可替代独立的 ASR、VLM、LLM 和 TTS 模型。
Alkove 是一个开源(Apache-2.0)的端侧语音前端,由五个微型模型(总计 7.5 MB)组成——可输入任意文本的唤醒词系统、基于声纹的说话人过滤,以及个人化 VAD——运行在自研的 Rust 推理引擎上,提供 npm、pip、Android、LiveKit 和 Pipecat 包,旨在 STT 之前减少本地语音助手的误唤醒和串音问题。
Liquid AI 发布 LFM3-VL-2B,一款面向端侧视觉理解的 1.92B 视觉语言模型,支持文本、图像和视频输入,并引入视频理解、逐步思考以及空间与具身推理能力。
Spark-X2.6-4B 是一款紧凑的 4B 端侧语言模型,以 GGUF 格式发布。它针对代码、智能体、长上下文和多语言任务进行了改进的后训练,并支持可控的思考预算。据称在同等规模的开源模型中达到了最先进性能,可匹敌甚至超越约 9B 参数的模型。
Muse Glimmer 是一款拥有 300 亿参数的开源多模态智能体模型,通过 4 位量化可在消费级硬件上本地运行多步推理与工具调用,并在同等规模的智能体基准测试中超越 Gemma4-31B 和 Qwen3.6-27B,现已采用 Apache 2.0 许可证发布。