@Zen_with_AI: 推荐一本 @ManningBooks 的新书《Domain-Specific Small Language Models: Efficient AI for local deployment》，《领域专用小语言模型：面向本地部署的高效 A…
摘要
推荐 Manning 新书《Domain-Specific Small Language Models: Efficient AI for local deployment》（Guglielmo Iozzia 著，2026 年 5 月出版），介绍如何用领域数据微调、量化并部署小模型，在本地硬件上实现高质量的垂直任务表现，并涵盖仅依赖小模型的 RAG 与 Agent 系统。
查看缓存全文
缓存时间: 2026/11/02 02:00
推荐一本 @ManningBooks 的新书《Domain-Specific Small Language Models: Efficient AI for local deployment》，《领域专用小语言模型：面向本地部署的高效 AI》作者 Guglielmo Iozzia，2026 年 5 月出版，
书的内容是，做垂直领域的任务，大模型庞大的容量有时反而帮倒忙。用领域数据训练的小模型，跑在普通硬件上，也能在特定任务上做出高质量的结果。
全书 15 章，骨架是：
微调->量化->领域生成->部署服务 （第 2、3 章 -> 第 5、6、9 章，含 ONNX -> 第 7、8 章，生成 Python 代码和蛋白质结构 -> 第 11 到 15 章，含笔记本运行、RAG、Agent）
看目录有两点值得说。一是它把“在自己的机器上跑起来“当成目标，量化、性能分析、安全 API、笔记本运行都有专门章节。二是书里的 RAG 系统和 Agent 只靠小模型，不依赖基础大模型的调用成本。适合熟悉 Python 的 AI 工程师。
书：https://amzn.to/4g7mVqW Andrej Karpathy关于小模型的学习资料： https://drive.google.com/file/d/1Aw6vxDkjwE12T01UpD6FA5LZlDsc2tzn/view…
Domain-Specific Small Language Models: Efficient AI for local deployment: Iozzia, Guglielmo: 9781633436701: Amazon.com: Books
why this book?
Domain-Specific Small Language Modelsshows how to build compact AI models tuned to a specific industry, workflow, or dataset, rather than relying on oversized general-purpose LLMs.
Readers learn practical techniques for fine-tuning, evaluation, deployment, and optimization, enabling them to run capable models with lower latency, lower infrastructure costs, and tighter control over data and outputs.
The book also helps engineers understand when small language models outperform larger systems in production, especially in environments where privacy, speed, and reliability matter more than raw parameter count.
相似文章
@KirkDBorne：《面向特定领域的小型语言模型：本地部署的高效AI》可通过 https://amzn.to/4g7mVqW 购买，来自 @ManningBooks
Manning 出版了 Guglielmo Iozzia 所著的《面向特定领域的小型语言模型：本地部署的高效AI》，内容涵盖如何构建、微调、评估和部署针对特定行业和工作流定制的紧凑型 AI 模型，以实现更低的延迟、更低的成本和更好的数据控制。
@ManningBooks：想在本地运行 AI？探索小型语言模型、CPU 推理、量化和私有 AI 应用——尽在我们免费的电子书……
Manning Books 正在免费提供电子书《Local AI and Small Language Models》，内容涵盖小型语言模型、使用 GGUF 和 llama.cpp 进行 CPU 推理、量化技术、LoRA/DoRA 特化微调，以及利用 Ollama 的 Python 库构建私有本地 AI 应用等章节。
@XAMTO_AI: 别再收藏那些看着热闹、用不上的 AI 教程了。 这本 《动手学大模型》 才是真正需要的——开源、免费、代码能跑。 全书 12 章，手把手带你走完大模型落地的完整流程： ① 语言模型基础 ② 提示词工程 ③ 语义搜索 ④ 模型微调 ⑤ 多模…
推荐一本开源免费的《动手学大模型》教程，涵盖语言模型基础、提示词工程、语义搜索、模型微调、多模态应用等12章，所有代码可直接在Colab中运行。
@wsl8297: 分享一本通俗好读的开源书《大模型基础》。 从大语言模型入门到架构演化，再到 Prompt 工程、参数高效微调、模型编辑、检索增强生成（RAG）等关键技术，一本串起来。 GitHub：https://github.com/ZJU-LLMs/…
浙江大学团队开源了一本通俗易懂的大模型教材《大模型基础》，涵盖从架构演化到RAG等关键技术，并附带Agent-Kernel多智能体框架。
@NFTCPS: 兄弟们，搞AI不搞大模型，等于白干！ 今天必须给你们安利一本开源神书《大模型基础》，别等了，看它就够了！ 这书不跟你整那些虚的，一招打透！从大语言模型入门到架构演化，再一口气给你拆解Prompt工程、参数高效微调、模型编辑、RAG（检索增…
该文章推广了开源书籍《大模型基础》，系统讲解大语言模型相关知识，并介绍了多智能体开发框架Agent-Kernel。