标签
腾讯 Hy(混元)团队在一次 AMA 中透露,Hy4-mini、一款约 35B-A3B 的 Flash-Lite 模型,以及一款可能推出的 24–31B 稠密模型均已列入路线图。团队称,Engram 和 iHC 尤其有益于较小规模的模型,端侧版本也正在与边缘 GPU 硬件协同设计。
Thinking Machines 发布 Inkling 2 Mini,这是一款 260 亿参数的循环 transformer,体积小巧到可以在笔记本上运行,同时在 agentic 任务的 AA Index 上取得 20.1 的成绩,引发评论认为超强本地模型的出现比预期来得更早。
Thinking Machines(米拉·穆拉蒂的AI公司)开源了端侧模型 Inkling 2 Mini:26.4B 总参数、3.4B 激活的 MoE+循环层架构,20GB 权重可在普通笔记本本地运行,在 SWE-bench Verified 等多项评测中超越 Qwen3 27B 稠密模型,权重已登陆 Hugging Face。
Thinking Machines 发布 Inkling 2 Mini,这是一个总参数 26.4B、激活参数 3.4B 的开放权重 Mixture-of-Experts 循环 Transformer(looped transformer),可在笔记本上以约 20GB 内存运行,并在 DeepSWE v1.1 等 agentic coding 基准测试中领跑 100B 以下模型。同时发布的还有一个研究用的 variable-loop 变体,用于研究可监控性(monitorability),结果显示其在无 CoT 情况下的时间跨度有所提升,且思维链清晰可读,同时未增加破坏(sabotage)倾向。
Sevren 推出了 Embla 1,一款针对手机优化的推理模型,可在 4 bit 下私密离线运行,在五项基准测试中平均得分 57.4,在 iPhone 18 Pro 上端到端延迟为 1.77 秒,在同等或更低延迟下超越了更大的小模型。它采用定制 MoE 架构,配备稀疏注意力、共享 K/V 缓存和内存表,并通过 QAT 及从 Qwen3.5 模型进行的多阶段蒸馏训练。
Liquid AI 推出 LiquidCodec,这是一个基于 LFM3 架构构建的约 74M 参数的流式音频编解码器,可将语音转换为 token,供其 LFM3-Audio-2B 和 LFM3-Omni-2B 模型使用。它在重建保真度和压缩率上与同类模型相当,同时 token 到波形的解码速度大幅加快,适合端侧设备使用。
NVIDIA 发布了 Nemotron 3.5 Bolt E4B 4GB,这是一个基于 Gemma 4 E4B 进行后训练的模型,具备多轮智能体和对话能力,针对在 RTX、Jetson 和 DGX Spark 设备上的运行进行了优化,宣称质量比同类模型高约 40%,输出 token 数量减少约 80%。
Arc-Transcriber 是一款约 70MB 的流式语音模型,可在单个步骤中完成自动语音识别(ASR)和命名实体识别(NER)/实体链接。它通过共享编码器上经过训练的任务头,每 100 毫秒输出一次转录文本、已链接的名称、数字、说话人角色和音频事件,从而省去常规的多模型处理流水线。目前已发布两个版本(Arc mini 和 Arc-v1),权重托管于 Hugging Face,代码托管于 GitHub。
Xenova 宣布突破:首个 100% 本地在浏览器中运行的真正全模态模型 LFM3-Omni-2B,借助自定义 WebGPU kernels 实现约 280 tok/s,支持视觉、音频和文本输入并生成交错的文本与音频输出。
OpenBMB 发布了 MiniCPM-OCR 1.0(1B),这是一款可在 iPhone/iPad 上本地运行的轻量级 OCR 模型,同时还发布了 MiniCPM-OCR-Jev(2B),这是一个根据源图像对 OCR 输出正确性进行评分的验证模型;两者均开放模型权重,并支持 llama.cpp、vLLM、SGLang 和 Ollama。
Liquid AI 发布 LFM3-Omni-2B 的 GGUF 版本,支持在 CPU/GPU 上本地推理。该模型可理解文本、图像、视频和音频,并以文本和语音输出,专为设备端使用打造。
Liquid AI 工程师展示 LFM3-Audio 模型在本地设备(一盏灯)上运行并进行语音对话,网友戏称“能否在灯上跑模型”正成为新的基准。
Liquid AI 发布第三代 Liquid Foundation Models(LFM3),首批包含六个 2B 级模型,覆盖文本、视觉、音频、全模态和决策任务,采用开放权重并共享主干架构,可在手机、笔记本和边缘设备上运行,权重已上线 Hugging Face。
Liquid AI 推出新一代 Liquid Foundation Models 系列 LFM3,采用共享骨干的多模态(文本、视觉、音频、全模态、决策)混合架构,首批 2B 参数级模型开放权重,可本地微调并跨设备运行。
NotiKeep 是一款 iPhone 通知历史记录应用,利用 iOS 27 Shortcuts 自动化在本地保存通知,支持查看已删除或已编辑的消息、按应用与会话搜索,以及关键词提醒,全程本地处理、无需账号。
Block 发布了 Dessa,这是一款完全基于真人语音训练的全双工语音到语音模型,可在消费级 GPU 上本地运行,能够生成富有表现力、宛如真人般的对话,并内置情感表达。
Liquid AI 发布了 LFM3-1.7B,这是一款拥有 17.3 亿参数的三重混合架构文本模型,专为本地智能体和边缘部署而设计,具备 256K token 的上下文窗口,在 4 位精度下仅需约 1 GB 内存,并支持通过单 GPU 微调实现领域专精。
一款免费的浏览器端 TTS 工具,完全在设备本地运行,使用 2.7 MB 模型和自定义的 136 kB WebAssembly 引擎,使 Kokoro 蒸馏的 Paradee 模型快了 12.9 倍,同时保持音质。作者详细拆解了每一步优化,并让用户可以在浏览器中实时进行基准测试。
WhissleAI 发布了 SteerTTS-Edge,这是一款支持可控语音合成的小型英语 TTS 模型,通过对声学模型进行 int4 量化感知训练,并采用蒸馏后的 Vocos 声码器,将模型压缩至 11.84 MB,同时保持语音可懂度不变(WER 为 0.96%),UTMOS 仅下降约 0.1 分,并保留了全部 12 项控制功能。
作者在 MacBook Pro (M5 Pro, 64GB) 上用 MPS 后端运行 0.9B 的 MOSS-Transcribe-Diarize 模型,对 AMI 测试集一段 17.5 分钟、4 人会议做单次转写+说话人分离,仅用 12 分钟(约 0.68x 实时)完成,4 位说话人全部识别,说话人混淆率仅 0.08%,DER 为 15.4%,并能正确处理重叠对话。