LiquidAI/LFM3-1.7B · Hugging Face 来源：https://huggingface.co/LiquidAI/LFM3-1.7B Liquid AI LFM3-1.7B 是一款基于我们全新三混合架构的面向本地智能体和专用应用的文本模型。 - 智能体训练：经过后训练，适用于 Hermes Agent、Pi 和 OpenClaw 等智能体运行框架，支持 256K token 的上下文窗口。 - 为边缘设备设计：采用 4 位精度时，约占用 1 GB 内存，因此可在任何手机或笔记本电脑上运行。 - 专为定制打造：通过快速的单 GPU 微调，让模型适应您的领域、格式和工具。 有关 LFM3 系列的更多信息，请参阅我们的发布博文 (https://www.liquid.ai/blog/lfm3)。 ## https://huggingface.co/LiquidAI/LFM3-1.7B#model-details模型详情 — LFM3 系列 (https://huggingface.co/collections/LiquidAI/lfm3)包括基础、文本、视觉、音频、全模态和决策模型。 属性规格检查点经过后训练的纯文本语言模型参数量1.73B架构24 层：13 层门控短卷积、5 层滑动窗口注意力、6 层全局注意力上下文长度256K token (输入 + 输出)词表128,000 个 token语言英语、阿拉伯语、中文、法语、德语、意大利语、日语、韩语、葡萄牙语、西班牙语、越南语、泰语、印度尼西亚语、印地语、俄语、波兰语许可证LFM 开放许可证 v1.0 (https://huggingface.co/LiquidAI/LICENSE)LFM3-1.7B 专为本地智能体、工具调用、结构化输出和领域专用微调设计。 对于知识密集型任务，请使用检索或搜索。 由于模型规模较小，不建议将其用于智能体编程或复杂的多步推理。 ## https://huggingface.co/LiquidAI/LFM3-1.7B#inference推理 — 根据您的推理框架和硬件选择检查点变体。 检查点框架描述BF16 (https://huggingface.co/LiquidAI/LFM3-1.7B)vLLM (https://docs.liquid.ai/deployment/gpu-inference/vllm)、SGLang (https://docs.liquid.ai/deployment/gpu-inference/sglang)、Transformers (https://docs.liquid.ai/deployment/gpu-inference/transformers)用于 GPU 推理的 BF16 权重。FP8 (https://huggingface.co/LiquidAI/LFM3-1.7B-FP8)SGLang (https://huggingface.co/LiquidAI/LFM3-1.7B-FP8#use-with-sglang)用于 GPU 推理的 FP8 量化。NVFP4 (https://huggingface.co/LiquidAI/LFM3-1.7B-NVFP4)SGLang (https://huggingface.co/LiquidAI/LFM3-1.7B-NVFP4#use-with-sglang)用于 GPU 推理的 4 位浮点量化。GGUF (https://huggingface.co/LiquidAI/LFM3-1.7B-GGUF)llama.cpp (https://docs.liquid.ai/deployment/on-device/llama-cpp)、Ollama (https://docs.liquid.ai/deployment/on-device/ollama)、LM Studio (https://docs.liquid.ai/deployment/on-device/lm-studio)在 CPU 和 GPU 上进行本地推理。MLX (https://huggingface.co/LiquidAI/LFM3-1.7B-MLX-4bit)MLX (https://docs.liquid.ai/deployment/on-device/mlx)适用于 Apple Silicon 的 4 位量化。ONNX (https://huggingface.co/LiquidAI/LFM3-1.7B-ONNX)ONNX Runtime (https://docs.liquid.ai/deployment/on-device/onnx)使用 ONNX Runtime 进行跨平台推理。采样参数： - 通用(聊天、工具使用、智能体、编程)：temperature=0\.1,top\_k=50, repetition\_penalty=1\.1 - 数学与 STEM(数学、科学)：temperature=1\.0, top\_p=0\.95, top\_k=20 Transformers 快速入门： from transformers import pipeline generator = pipeline( "text-generation", model="LiquidAI/LFM3-1.7B", trust_remote_code=True, ) messages = [{"role": "user", "content": "什么是秀丽隐杆线虫？"}] output = generator( messages, do_sample=True, temperature=0.1, top_k=50, repetition_penalty=1.1, max_new_tokens=2048, ) print(output[0]["generated_text"][-1]["content"]) 有关本地智能体设置，请参阅智能体运行框架指南 (https://docs.liquid.ai/examples/agent-harnesses)。 聊天模板LFM3 使用以下 ChatML 格式，由检查点的聊天模板 (https://huggingface.co/LiquidAI/LFM3-1.7B/blob/main/chat_template.jinja)生成： <|startoftext|><|im_start|>system 你是由 Liquid AI 训练的乐于助人的助手。<|im_end|> <|im_start|>user 解释热泵的工作原理。<|im_end|> <|im_start|>assistant 使用tokenizer\.apply\_chat\_template\(\)并设置add\_generation\_prompt=True，即可自动格式化消息。 默认启用推理。 您可以设置enable\_thinking=False来禁用思考轨迹，但此行为可能不一致，尤其是在推理密集型任务中。 除非设置preserve\_thinking=True，否则会移除最新用户消息之前各轮对话中的推理内容。 工具调用通过tools=\.\.\.将函数模式传递给apply\_chat\_template\(\)。 模板会自动格式化工具定义和结果。 生成的调用采用 XML 格式： 巴黎 在您的应用中执行该调用。 将解析后的助手调用作为tool\_calls条目添加到历史记录中，然后将结果作为tool消息追加。 在后续请求中继续传入工具模式，并保留当前工具使用轮次中助手的内容和推理。 function\.arguments必须是 Python 映射。 在应用模板之前，使用json\.loads\(\)解码 JSON 字符串。 工具搜索LFM3 支持延迟加载工具。 设置defer\_loading=True，即可将工具定义排除在提示之外，直到您的运行框架的搜索工具以tool\_reference部分的形式返回其名称。 随后，聊天模板会将其定义插入中。 tools = [ search_tool, {“type”: “function”, “defer_loading”: True, “function”: get_weather_schema}, ] messages.append({ “role”: “tool”, “tool_call_id”: call_id, “content”: [ {“type”: “text”, “text”: “找到 1 个工具。”}, {“type”: “tool_reference”, “name”: “get_weather”}, ], }) 搜索由您的运行框架实现并执行。 每次请求都应保留完整的`tools`列表，包括延迟加载的工具。 在系统提示中告诉模型何时搜索： > 你目前只有一个工具：search\_tools，它可以搜索包含更多工具的目录。 如果当前工具都无法处理某个请求，请调用 search\_tools 查找合适的工具，然后调用它返回的工具。 适用于 vLLM、SGLang 以及兼容 LFM3 的 llama\.cpp 构建版本。 对于 llama\.cpp，请使用包含当前聊天模板的 GGUF，或通过`\-\-chat\-template\-file`加载模板。 完整指南请参阅延迟加载工具与工具搜索 (https://docs.liquid.ai/lfm/key-concepts/tool-use)。 ## https://huggingface.co/LiquidAI/LFM3-1.7B#fine-tuning微调 --- LFM3\-1\.7B 专为通过 TRL (https://docs.liquid.ai/lfm/fine-tuning/trl)针对特定领域、任务或应用进行**便捷定制**而设计。 训练用途笔记本**SFT**从杂乱文档中提取结构化 JSON在 Colab 中打开 (https://colab.research.google.com/drive/1_azJLYp0vZSxbfWwNX_Hx1w6cxALgUO0?usp=sharing)**DPO**根据检索到的文档回答，或拒绝回答在 Colab 中打开 (https://colab.research.google.com/drive/1Nwb2JHfoU-_tacYBVqGKPEx-2JHt67WO?usp=sharing)**GRPO**在包含 108 个工具的手机应用中调用正确的工具在 Colab 中打开 (https://colab.research.google.com/drive/1YfGQVOCCDX36vVYFEpevpgKHOy_4PSYj?usp=sharing)**CPT**从原始文本学习一种新语言 \(土耳其语\)在 Colab 中打开 (https://colab.research.google.com/drive/1iiv_jr19kVPH0YTwx96O8k_VBkFli_r9?usp=sharing)## https://huggingface.co/LiquidAI/LFM3-1.7B#performance性能 --- ### https://huggingface.co/LiquidAI/LFM3-1.7B#benchmarks基准测试 LFM3\-1\.7B 可以驱动过去需要 9B 参数的智能体应用。 基准测试**LFM3 1\.7B**LFM2\.5 2\.6BMiniCPM5 2BGemma 4 E4BQwen3\.5 4BQwen3\.5 9B智能体LiveClaw**45\.60**14\.7030\.3720\.3619\.9435\.77Claw\-Eval 通用 \(英语\)，平均值**68\.64**62\.6360\.7456\.1461\.9666\.53Claw\-Eval 通用 \(英语\)，pass^351\.4037\.5234\.5822\.4342\.99**51\.87**BrowseComp\-Plus \(OpenClaw 子集\)37\.0026\.3316\.8321\.0024\.67**38\.00**WebArena\-Verified**38\.42**3\.029\.1117\.0621\.9228\.94EnterpriseOps\-Gym28\.207\.9413\.419\.8625\.96**28\.97**AutomationBench \(公开\)**41\.29**0\.944\.711\.928\.6715\.10工具使用BFCL V4**71\.39**55\.8962\.6548\.2555\.1262\.83ToolSandbox**80\.36**78\.0468\.1669\.2775\.4076\.41MCP\-Atlas32\.5716\.4526\.386\.1941\.37**42\.67**τ3\-bench \(4 个领域\)，平均值68\.0156\.77**69\.44**33\.5365\.9867\.11智能体编程SWE\-bench Verified \(OpenCode\)43\.4018\.0034\.800\.5041\.20**51\.20**SWE\-bench Multilingual \(OpenCode\)23\.008\.0015\.670\.6723\.33**35\.00**Terminal\-Bench 2\.1 \(OpenCode\)12\.920\.005\.620\.0013\.48**17\.98**编程LiveCodeBench v6**73\.46**60\.5770\.5271\.0061\.9969\.86LiveCodeBench Pro 25Q231\.7419\.1629\.3429\.9424\.25**34\.43**SciCode28\.4716\.3227\.7825\.0023\.02**31\.60**指令遵循IFEval**96\.66**95\.3987\.8390\.0292\.5292\.08IFBench**73\.03**60\.4862\.0844\.5638\.1648\.84IFStruct**93\.72**82\.1872\.6578\.4587\.0589\.20Multi\-IF**89\.10**84\.8073\.1981\.0380\.3284\.44知识GPQA Diamond63\.3757\.7865\.1557\.8875\.76**80\.40**Humanity's Last Exam \(无工具\)7\.175\.888\.204\.7712\.84**16\.41**Humanity's Last Exam \(使用工具\)13\.909\.6011\.506\.0011\.60**17\.50**AA\-Omniscience \(公开\)**0\.50**\-33\.17\-5\.00\-15\.33\-57\.17\-28\.00AA\-Omniscience 准确率 \(公开\)7\.078\.759\.139\.83**15\.67**13\.17AA\-Omniscience 无幻觉率 \(公开\)**92\.93**53\.6984\.4472\.0913\.6452\.59长上下文AA\-LCR52\.836\.0049\.3439\.3352\.67**62\.00**RULER 128K65\.561\.1537\.9618\.8284\.63**87\.11****平均值****49\.37**31\.5539\.1931\.7439\.2747\.24 评测详情所有模型均通过 vLLM 以 BF16 精度提供服务，并使用各自的完整上下文长度：LFM3\-1\.7B、Qwen3\.5\-4B 和 Qwen3\.5\-9B 为 262,144 个 token，LFM2\.5\-2\.6B、MiniCPM5\-2B 和 Gemma 4 E4B 为 131,072 个 token。 除下文列出的情况外，所有评测均使用 temperature 0\.6 和 top\_p 0\.95，除上下文长度外不设其他输出限制。 “平均值”行为表中所有分数的未加权平均值。 **BFCL V4**：贪心解码，最多输出 32,768 个 token。 **ToolSandbox**：贪心解码，每轮最多 1,024 个 token。 **LiveClaw**：OpenClaw 智能体，每轮最多 8,192 个 token。 **Claw\-Eval**：贪心解码，每项任务试验 3 次。 **BrowseComp\-Plus**：OpenClaw 智能体，贪心解码，每轮最多 8,192 个 token。 **WebArena\-Verified**：最多 40 步。 **MCP\-Atlas**：最多 256 轮。 **EnterpriseOps\-Gym**和**AutomationBench**：最多 50 轮。 **SWE\-bench**：OpenCode 智能体，最多 250 轮。 **Terminal\-Bench 2\.1**：OpenCode 智能体，最多 100 轮。 ### https://huggingface.co/LiquidAI/LFM3-1.7B#edge-inference边缘推理 在 32K 上下文下，LFM3\-1\.7B 在全部三款设备上的预填充速度至少为每个对比模型的 2\.5 倍，解码速度至少为其 1\.8 倍，同时内存占用最低。 LFM3-1.7B 在 32K 上下文下的边缘推理：在 AMD Ryzen AI Max+ 395、Apple M5 Max 和 iPhone 17 Pro 上的预填充吞吐量、解码吞吐量以及主机与 GPU 内存占用总量，与 MiniCPM5-2B、Qwen3.5-4B、Qwen3.5-9B 和 Gemma 4 E4B 进行比较。 评测详情所有模型均以 Q4\_0 GGUF 文件形式在 llama\.cpp 中运行，上下文为 32,768 个 token，批量大小为 1，输出 100 个 token，并启用 GPU 卸载。 预填充指提示处理速度，解码指生成速度，两者均以 token/秒为单位。 LFM3\-1\.7B 使用支持 LFM3 的 llama\.cpp 构建版本，其他模型使用 llama\.cpp b11744 发行版本。 **AMD Ryzen AI Max\+ 395**：Radeon 8060S 集成 GPU，Windows，Vulkan 后端。 **Apple M5 Max**：macOS，Metal 后端。 **iPhone 17 Pro**：Apple A19 Pro，基于 llama\.cpp 构建的 iOS 应用。 **内存**：峰值占用，单位为 GB \(109 字节\)。 在 AMD 上，该值为同一次运行中主机与 GPU 峰值之和，如果两个峰值未同时出现，可能会略微高估占用。 在 Apple 设备上，进程内存占用已包含 Metal 分配的内存。 ### https://huggingface.co/LiquidAI/LFM3-1.7B#gpu-inferenceGPU 推理 在 1,024 个并发请求下，LFM3\-1\.7B 可在单张 NVIDIA B300 上每天生成 36 亿个 token。 LFM3-1.7B GPU 推理：在单张 NVIDIA B300 上，输出吞吐量随并发请求数的变化，与 MiniCPM5-2B、Gemma 4 E4B、Qwen3.5-4B 和 Qwen3.5-9B 进行比较。 ## https://huggingface.co/LiquidAI/LFM3-1.7B#training训练 --- LFM3-1.7B 预训练：首先使用网络和合成数据（约 15T token），然后使用代码、数学和科学数据（在 4K 上下文下训练 3T token），随后使用精选智能体数据进行中期训练（在 32K 上下文下训练 3T token），再扩展至 128K（500B token）和 256K（50B token），总计 22T token。 **预训练：**分两个阶段，使用总计 22T token 构建 LFM3\-1\.7B\-Base。 - **主要预训练：**与 LFM2 相比，数据混合中加入了更多科学论文、仓库级代码、数学内容以及更广泛的知识来源。 - **中期训练：**最后 3\.5T token 使用经过精选的更高质量数据，其中智能体轨迹和工具调用的占比更高。 此阶段还将上下文窗口扩展至 256K token。 LFM3-1.7B 后训练方案：学生模型先经历 SFT 和混合强化学习，数学、代码和工具强化学习等专项强化学习教师模型从混合强化学习检查点开始训练，再通过 MOPD 将其能力蒸馏回学生模型，最后进行智能体强化学习。 **后训练：**通过四个阶段培养对话、推理和工具使用能力。 - **监督微调 \(SFT\)：**使用 1\.75T token，覆盖聊天、推理、工具调用和智能体轨迹等多种任务。 - **混合强化学习：**同时训练多个领域，从数学和代码到 SQL 和结构化输出。 奖励中的长度惩罚使回答保持简洁。 - **多领域同策略蒸馏 \(MOPD\)：**将六个专项强化学习教师模型 \(代码、数学、工具使用、长上下文、智能体工作和企业工作流\)的能力蒸馏回单一模型。 - **智能体强化学习：**在真实智能体运行框架内执行从网页浏览到办公工作的各种任务，为模型部署做好准备。 ## https://huggingface.co/LiquidAI/LFM3-1.7B#citation引用 --- @article{liquidAI2026LFM3, author = {Liquid AI}, title = {LFM3 简介：面向专用智能的全模态支持}, journal = {Liquid AI 博客}, year = {2026}, note = {www.liquid.ai/blog/lfm3}, } `` 如有问题或反馈，请加入 Discord (https://discord.com/invite/liquid-ai)。 如需定制部署和微调支持，请联系 Liquid AI (https://www.liquid.ai/connect?utm_source=huggingface&utm_medium=referral&utm_campaign=huggingface)。 上月下载量6,311 ## LiquidAI/LFM3-1.7B 的模型树https://huggingface.co/docs/hub/model-cards#specifying-a-base-model ## 使用 LiquidAI/LFM3-1.7B 的 Spaces3 ## 包含 LiquidAI/LFM3-1.7B 的合集 ## 提及 LiquidAI/LFM3-1.7B 的文章