LFM3 发布：面向专业化智能的全模态能力

# 发布 LFM3：面向专业智能的全模态模型 来源：https://www.liquid.ai/blog/lfm3 今天，我们很高兴地宣布 **LFM3**——Liquid Foundation Models（LFMs）的新一代模型，专为专业智能而构建。LFM3 模型家族本质上是多模态的，将文本、视觉、音频、全模态和决策模型统一到一个全新的共享主干网络上。LFM3 家族的首次发布涵盖约 2B 参数范围内的模型。 基于全新的混合架构和 22T token 的预训练，LFM3 的表达能力远超 [LFM2](https://www.liquid.ai/blog/liquid-foundation-models-v2-our-second-series-of-generative-ai-models)，同时保持了原有的高效性。一个小而快的模型拥有更强的能力，使 LFM3 成为该级别中专业智能的理想起点：它可以在本地微调，可以运行在任何设备上，并且能力足够强大，能够成为特定任务上的可靠专家。 基础模型和后训练模型均为开放权重，现已在 [Hugging Face](https://huggingface.co/collections/LiquidAI/lfm3)、我们的 [Playground](https://playground.liquid.ai/) 和 [Liquid AI API](https://console.liquid.ai/dashboard) 上线。欢迎查阅我们的[文档](https://docs.liquid.ai/)，了解如何在本地运行和微调这些模型。 [下载权重](https://huggingface.co/collections/LiquidAI/lfm3) | [在 Liquid API 中试用](https://console.liquid.ai/dashboard) | [在 Playground 中试用](https://playground.liquid.ai/) | [在 Pipette 中进行基准测试](https://pipette.liquid.ai/) ## 全新架构带来更强表达能力 LFM2 证明了短卷积与注意力的混合架构可以在设备端高效运行而不牺牲质量。其设计源自我们的[自动化硬件在环架构搜索](https://arxiv.org/abs/2511.23404)。对于 LFM3，我们利用该搜索方法重新设计了架构，以适应 Agent 类用例——这些用例需要在每个参数上获得更强的能力，以及在长上下文下的快速推理。 我们还扩大了硬件在环的范围，从 LFM2 的一部手机和一台笔记本电脑中的 CPU，扩展到 LFM3 的 14 种设备和后端组合：手机（Samsung Galaxy S26 Ultra 和 OnePlus 15）、Raspberry Pi 5、笔记本电脑（Apple M4 Max 和 AMD Ryzen AI）、Arm 和 x86 云 CPU，以及 GPU 和 Qualcomm Hexagon NPU。 门控短卷积仍然占超过一半的层。为了在不拖慢长上下文的前提下提升能力，我们尝试将其中一些层替换为其他序列模块，滑动窗口注意力（SWA）给出了最佳的质量–速度权衡。以下描述的其他改动仅在其能提升质量且不会带来明显速度代价时才被保留。其收益在长上下文时显现。在每参数比较下，LFM3-1.7B 在各类边缘设备上的短提示表现与 LFM2-1.2B 持平，而在 8K token 上下文时速度约快 25%。 **三重混合层组合。** LFM3 结合了三种算子：门控短卷积、滑动窗口注意力（SWA）和全局注意力。其 24 层中有 13 层为卷积，5 层为窗口大小 256 token 的 SWA，6 层为全局注意力。卷积的核大小也从 LFM2 的 3 增加到了 7。 **头级门控注意力。** sigmoid 门控对每个头的输出进行缩放，使一个头在没有可贡献内容时可以关闭。这有助于[抑制损害量化效果的激活离群值](https://arxiv.org/abs/2306.12929)并[提升训练稳定性](https://arxiv.org/abs/2505.06708)。 **部分 RoPE。** 全局注意力层仅旋转每个头中最高频率的一半维度，保持低频率一半不旋转，使这些维度[无论距离远近都能匹配内容](https://arxiv.org/abs/2410.06205)。SWA 层保留完整的 RoPE。 **三明治归一化。** 每个块对其输入和输出都进行归一化，有助于保持激活值的良好尺度。 LFM3 使用与 [LFM2.5-8B-A1B](https://www.liquid.ai/blog/lfm2-5-8b-a1b) 相同的 128K 词表，该词表专为更高效地对非拉丁文字进行分词而构建。 **训练。** LFM3-1.7B-Base 在 22T token 上进行了预训练。与 LFM2 相比，数据配比中增加了更多科学论文、仓库级代码、更广泛的知识来源，以及大量增加的数学数据。最后 3.5T token 是在精选的更高质量数据上进行的中期训练阶段，其中 Agent 轨迹和多样化工具调用的比例更大，为模型的 Agent 后训练做准备。该阶段还将上下文窗口扩展到 256K token。 ## 面向各类需求的多模态模型家族 LFM3 的首批发布包括六个模型，全部基于同一个 LFM3-1.7B-Base 主干网络分支而来，参数量均在 2B 左右。其中四个覆盖不同的输入模态（文本、视觉、音频和全模态），最后两个是从视觉和全模态模型特化而来的决策模型。与其运行一个大型通用模型，您可以选择适合用例的模型，进行定制，并在设备端运行。 有关这些模型的性能和推理结果的更多详细信息，请参阅各模型卡片。 > 随着 AI 越来越多地从云端走向客户端，开发者需要能够在各种 AI PC 上高效部署的模型。Liquid AI 的 LFM3 家族将强大的多模态能力与紧凑的体积相结合，非常适合设备端 AI 体验。AMD 与 Liquid AI 在多代模型上紧密合作，我们很高兴看到 LFM3 进一步拓展了在搭载 AMD Ryzen™ AI 处理器的系统上本地运行专业 AI 应用的可能性。 > > **Josh Hort** > AMD ISV 赋能高级总监兼负责人 > 在各行业中，我们看到边缘 AI 正从运行专用检测和感知模型，发展到支持多种并发 AI 工作负载，包括视觉-语言模型、自然语言接口和多模态推理。挑战在于如何在边缘设备的计算、内存和功耗限制内提供这些能力。LFM3 将文本、视觉和音频整合到一个统一的架构中，专为高效部署而设计，并提供开发者可针对特定应用进行微调的开放权重模型。开发者已经可以通过 Cooper Model Garden 在 Ambarella 芯片上运行 Liquid AI 的 LFM2.5-VL 模型，我们已开始在同一平台上支持 LFM3。 > > **Malhar Palkar** > Ambarella AI 高级总监 > 下一代 AI 将更加多模态、个性化和私密，同时分布在设备和云端。Liquid AI 的 LFM3 家族是朝着这一方向迈出的令人振奋的一步，我们很高兴能与之合作，在搭载 Snapdragon® 处理器的设备上带来快速、高效和创新的 AI 体验。 > > **Vinesh Sukumar** > Qualcomm Technologies, Inc. 副总裁 ### 文本 [LFM3-1.7B](https://huggingface.co/LiquidAI/LFM3-1.7B) 是一个面向本地 Agent 和专业应用的文本模型，支持 256K token 上下文窗口。 它经过后训练，可在 Hermes Agent、Pi 和 OpenClaw 等 Agent 框架中运行。它可以帮您整理收件箱、管理日历、在网上搜索研究主题、通过 WhatsApp 发送早间简报，并通过工具搜索在数千个选项中找到合适的工具。由于 token 是免费的，数十个 Agent 可以在后台持续运行。您只需在单张 GPU 上进行一次简短的微调，即可将它适配到您的领域、框架和工具。 **基准测试** | 基准测试 | LFM3-1.7B (1.7B) | LFM2.5-2.6B (2.6B) | MiniCPM5 2B (2.5B) | Gemma 4 E4B (8B) | Qwen3.5 4B (4.7B) | Qwen3.5 9B (9.7B) | |---|---|---|---|---|---|---| | **Agents** | | | | | | | | LiveClaw | 45.60 | 14.70 | 30.37 | 20.36 | 19.94 | 35.77 | | Claw-Eval General (EN), average | 68.64 | 62.63 | 60.74 | 56.14 | 61.96 | 66.53 | | Claw-Eval General (EN), pass^3 | **51.40** | 37.52 | 34.58 | 22.43 | 42.99 | 51.87 | | BrowseComp-Plus (OpenClaw subset) | **37.00** | 26.33 | 16.83 | 21.00 | 24.67 | 38.00 | | WebArena-Verified | 38.42 | 3.02 | 9.11 | 17.06 | 21.92 | 28.94 | | EnterpriseOps-Gym | **28.20** | 7.94 | 13.41 | 9.86 | 25.96 | 28.97 | | AutomationBench (public) | 41.29 | 0.94 | 4.71 | 1.92 | 8.67 | 15.10 | | **工具使用** | | | | | | | | BFCL V4 | 71.39 | 55.89 | 62.65 | 48.25 | 55.12 | 62.83 | | ToolSandbox | 80.36 | 78.04 | 68.16 | 69.27 | 75.40 | 76.41 | | MCP-Atlas | 32.57 | 16.45 | 26.38 | 6.19 | 41.37 | 42.67 | | τ3-bench | 68.01 | 56.77 | 69.44 | 33.53 | 65.98 | 67.11 | | **Agent 编码** | | | | | | | | SWE-bench Verified (OpenCode) | 43.40 | 18.00 | 34.80 | 0.50 | 41.20 | 51.20 | | SWE-bench Multilingual (OpenCode) | 23.00 | 8.00 | 15.67 | 0.67 | 23.33 | 35.00 | | Terminal-Bench 2.1 (OpenCode) | 12.92 | 0.00 | 5.62 | 0.00 | 13.48 | 17.98 | | **编码** | | | | | | | | LiveCodeBench v6 | 73.46 | 60.57 | 70.52 | 71.00 | 61.99 | 69.86 | | LiveCodeBench Pro 25Q2 | 31.74 | 19.16 | 29.34 | 29.94 | 24.25 | 34.43 | | SciCode | 28.47 | 16.32 | 27.78 | 25.00 | 23.02 | 31.60 | | **指令遵循** | | | | | | | | IFEval | 96.66 | 95.39 | 87.83 | 90.02 | 92.52 | 92.08 | | IFBench | 73.03 | 60.48 | 62.08 | 44.56 | 38.16 | 48.84 | | IFStruct | 93.72 | 82.18 | 72.65 | 78.45 | 87.05 | 89.20 | | Multi-IF | 89.10 | 84.80 | 73.19 | 81.03 | 80.32 | 84.44 | | **知识** | | | | | | | | GPQA Diamond | 63.37 | 57.78 | 65.15 | 57.88 | 75.76 | 80.40 | | Humanity's Last Exam（无工具） | 7.17 | 5.88 | 8.20 | 4.77 | 12.84 | 16.41 | | Humanity's Last Exam（有工具） | 13.90 | 9.60 | 11.50 | 6.00 | 11.60 | 17.50 | | AA-Omniscience (public) | 0.50 | -33.17 | -5.00 | -15.33 | -57.17 | -28.00 | | AA-Omniscience accuracy (public) | 7.07 | 8.75 | 9.13 | 9.83 | 15.67 | 13.17 | | AA-Omniscience non-hallucination (public) | 92.93 | 53.69 | 84.44 | 72.09 | 13.64 | 52.59 | | **长上下文** | | | | | | | | AA-LCR | 52.83 | 6.00 | 49.34 | 39.33 | 52.67 | 62.00 | | RULER 128K | 65.56 | 1.15 | 37.96 | 18.82 | 84.63 | 87.11 | | **平均** | 49.37 | 31.55 | 39.19 | 31.74 | 39.27 | 47.24 | 在 Agent 任务上，LFM3-1.7B 能与数倍于其规模的模型竞争。它在指令遵循以及 BFCL 和 ToolSandbox 函数调用方面领先，并在浏览器和商业应用中的长任务（WebArena-Verified、AutomationBench）上击败了 Qwen3.5-9B。更大的模型在 Agent 编码和知识方面仍占优势，因为规模在那里最为重要，但搜索有助于缩小知识差距，使其在 Humanity's Last Exam 上的得分几乎翻倍。 为了取得这些结果，模型经历了四个后训练阶段： - **监督微调（SFT）：** 覆盖各种任务的 1.75T token，包括对话、推理、工具调用和 Agent 轨迹。 - **混合强化学习：** 同时训练多个领域，从数学和代码到 SQL 和结构化输出。奖励中的长度惩罚确保答案简洁。 - **多领域在线策略蒸馏（MOPD）：** 六个专业 RL 教师（代码、数学、工具使用、长上下文、Agent 任务和企业工作流）被蒸馏回单个模型。 - **Agent 强化学习：** 从网页浏览到办公任务在真实 Agent 框架中运行，为模型部署做准备。 在设备端，我们使用 llama.cpp 在 Q4_0 量化和 32K token 上下文下测量指标。LFM3-1.7B 在三款设备上都是最快的模型，解码速度比第二名快 1.8 至 2.8 倍，并且占用内存最少。长上下文也保持低成本：完整的 128K token 上下文需要 1.6 GB KV 缓存，而 Qwen3.5-4B 需要 4.3 GB，MiniCPM5-2B 需要 5.6 GB。 在单张 NVIDIA B300 上使用 SGLang（BF16 精度），LFM3-1.7B 在 1,024 并发请求下每天可生成 36 亿个 token，超过本次对比中的任何其他模型。 为了展示这种吞吐量能实现什么，我们并行运行了超过 300,000 个 LFM3-1.7B Agent 来调查 Enron 邮件档案。 LFM3-1.7B 在随机流量下也能保持低延迟服务，当运行在 [Liquid RIPL](https://www.liquid.ai/blog/low-latency) 上时，可实现实时用例如在线欺诈检测。即使在高负载下，P95 请求延迟也保持稳定，优于在 vLLM 上服务的竞争模型。 > 我们在真实 macOS 环境中对 65 项日常 Agent 任务测试了 LFM3-1.7B 与 Qwen3.5-2B 的对比。更小的模型获胜：任务成功率为 64% 对 48%，每任务少用 58% 的 token，卡住的比例低于 1% 对 15%。小模型已经准备好在 Mac 上承担真正的 Agent 工作，而 LFM3 就是证明。LFM3 是我们测试过的第一个准备好在 Mac 上承担真正 Agent 工作的亚 2B 模型——它在使用少 58% token 且几乎不会卡住的情况下，击败了更大的模型。 > > **Ivan Petrukha** > MacPaw 首席 AI 工程师、LLM 效率负责人 ### 视觉 [LFM3-VL-2B](https://huggingface.co/LiquidAI/LFM3-VL-2B) 可以观看、推理并理解物理世界： - **视频理解：** LFM 视觉模型首次支持视频输入。您可以就录制的讲座、手机拍摄的操作演示或摄像头画面片段进行提问。 - **思考：** 模型在回答前进行逐步推理。这有助于它更好地理解用户输入，并解决更难的视觉问题，如数学、图表和多步骤问题。 - **空间和具身推理：** 模型定位物体并推理其空间关系的能力，为下游机器人应用提供了坚实的基础。 LFM3-VL-2B 在性能上相比 LFM2.5-VL 系列实现了飞跃。在 62 项视觉基准测试中，LFM3-VL-2B 的得分显著领先于所有同规模模型至少 7.4 分，且尽管体积小巧，它达到了 Gemma 4 12B（一个规模大六倍以上的模型）的性能水平，超越了 Gemini 3.5 Flash Lite，并与 GPT-5.6 Luna 的差距在 2 分以内。更多详情请参阅模型卡片。 | 基准类别 | LFM3-VL-2B (1.9B) | LFM2.5-VL-3B (3.1B) | MiniCPM-V 4.7 1B (1.6B) | Qwen 3.5 2B (2.3B) | Gemma 4 E2B (5.1B) | Gemma 4 12B (12B) | GPT-5.6 Luna | Gemini 3.5 Flash Lite | |---|---|---|---|---|---|---|---|---| | 通用 | 66.0 | 57.6 | 59.8 | 64.0 | 56.9 | 74.0 | 72.2 | 74.1 | | 感知 | 75.6 | 67.9 | 65.5 | 71.2 | 59.1 | 73.5 | 71.0 | 73.0 | | 文档、OCR 与图表 | 83.9 | 71.2 | 73.0 | 79.1 | 72.3 | 85.7 | 84.4 | 82.3 | | 数学与逻辑推理 | 68.8 | 40.6 | 51.8 | 61.0 | 51.8 | 79.3 | 77.3 | 66.7 | | 视觉定位 | 77.3 | 68.3 | 51.1 | 61.2 | 41.2 | 74.1 | 72.7 | 63.5 | | 具身推理 | 64.4 | 48.0 | 45.3 | 51.2 | 41.5 | 59.1 | 61.5 | 50.3 | | GUI 理解 | 83.1 | 66.0 | 45.3 | 67.2 | 44.3 | 76.1 | 82.5 | 71.0 | | 视频 | 61.2 | 41.3 | 53.7 | 57.0 | 46.6 | 58.9 | 72.8 | 70.0 | | 多语言 | 84.4 | 81.2 | 77.4 | 78.6 | 73.4 | 86.1 | 82.1 | 85.8 | | Agent | 42.5 | 21.1 | 16.9 | 15.2 | 23.8 | 43.6 | 56.1 | 62.4 | | **平均** | **71.4** | 57.6 | 57.5 | 64.0 | 53.6 | 71.7 | 73.4 | 70.0 | 注：每个类别分数为该类别下各基准测试分数的未加权平均值。平均行为全部 62 项评估的未加权平均值。 所有这些都可以高效地在设备端运行，使日常使用智能成为可能，而无需数据离开设备或依赖云连接。在设备端，与其他同规模模型相比，LFM3-VL-2B 在所有测量设备上都拥有最高的预填充吞吐量和最低的内存占用。 在单张 NVIDIA B300 上使用 SGLang（BF16 精度），LFM3-VL-2B 每秒可生成超过 12,000 个 token，高于任何其他同规模模型。 LFM3-VL-2B 在随机流量下也能保持低延迟服务，当运行在 [Liquid RIPL](https://www.liquid.ai/blog/low-latency) 上时，可实现实时用例如图像资产标注。即使在高负载下，P95 请求延迟也保持稳定，优于在 vLLM 上服务的竞争模型。 #### 视觉编码器 除了 LFM3 主干网络的改进之外，LFM3-VL 还搭载了我们全新的自研视觉编码器，其计算量仅为之前 LFM VL 模型中 SigLIP2 编码器的三分之一。 Liquid 视觉编码器结合了卷积和注意力机制，在同等质量下比其 ViT 对应版本效率显著更高。