GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking · Hugging Face

来源：https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking MiniCPM5-1B-Claude-Opus-Fable5-Thinking

https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking#minicpm5-1b-claude-opus-fable5-thinkingMiniCPM5-1B-Claude-Opus-Fable5-Thinking

📢 V2.0 已发布——我们发布了具备增强工具调用能力的新版本模型。欢迎试用新版本：

• Transformers：MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking (https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking)
• GGUF：MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-GGUF (https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-GGUF)

适用于本地部署的 GGUF 量化版本：MiniCPM5-1B-Claude-Opus-Fable5-Thinking-GGUF (https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking-GGUF)

中文说明 (https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking/blob/main/README-cn.md)

MiniCPM5-1B-Claude-Opus-Fable5-Thinking 是一个紧凑的 1B 思考型语言模型，基于 openbmb/MiniCPM5-1B (https://huggingface.co/openbmb/MiniCPM5-1B) 构建。它在 Fable 5 数据上进一步微调，提升了编程和指令遵循能力，同时保留了 MiniCPM5 原生的思考对话模板和工具调用格式。

如需使用 llama.cpp / Ollama / LM Studio 部署，请参考 GGUF 仓库 (https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking-GGUF)。

https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking#overview概述

https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking#capabilities能力

• 编程——代码生成、调试以及软件工程类任务
• 指令遵循——更可靠地遵循用户提示和结构化约束
• 思考模式——通过 MiniCPM5 对话模板实现思维链推理
• 工具调用——继承 MiniCPM5 的 XML 工具调用格式
• 长上下文——最高支持 128K 令牌（根据 config.json 为 131,072 令牌）

https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking#quick-start快速上手

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking"

tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    trust_remote_code=True,
    torch_dtype=torch.bfloat16,
    device_map="auto",
)

messages = [{"role": "user", "content": "Write a Python function to merge two sorted lists."}]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=512, do_sample=False)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))

https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking#sampling-recommendations采样推荐

生成参数继承自 MiniCPM5-1B (https://huggingface.co/openbmb/MiniCPM5-1B)：

https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking#limitations局限性

• 思考输出——模型可能会在最终答案前输出推理块；下游应用可在展示前将其剥离
• 1B 规模——针对轻量级本地部署进行了优化，并非前沿规模的通用推理

https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking#provenance–licensing来源与许可

以 Apache-2.0 许可发布，继承自 MiniCPM5-1B (https://huggingface.co/openbmb/MiniCPM5-1B)。

https://huggingface.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking#acknowledgements致谢

• 基础模型：OpenBMB / MiniCPM5-1B (https://huggingface.co/openbmb/MiniCPM5-1B)
• GGUF 转换：llama.cpp (https://github.com/ggml-org/llama.cpp)