@ManningBooks：想在本地运行 AI？探索小型语言模型、CPU 推理、量化和私有 AI 应用——尽在我们免费的电子书……

X AI KOLs Timeline 产品
local-ai small-language-models quantization cpu-inference ebook ollama llamacpp

摘要

Manning Books 正在免费提供电子书《Local AI and Small Language Models》，内容涵盖小型语言模型、使用 GGUF 和 llama.cpp 进行 CPU 推理、量化技术、LoRA/DoRA 特化微调，以及利用 Ollama 的 Python 库构建私有本地 AI 应用等章节。

想在本地运行 AI？ 通过我们免费电子书《Local AI and Small Language Models》，探索小型语言模型、CPU 推理、量化和私有 AI 应用：https://hubs.la/Q04CXtH60 包含以下章节： • 《Domain-Specific Small Language Models》——@GuglielmoIozzia • 《Build Applications with Local AI Models on a Mac》——Keiji Kamigusa（@keiji_dl 与 @JoshuaKCage1） • 《Quantization and Fast Inference》与《Rearchitecting LLMs》——@PereMartra
查看原文
查看缓存全文

缓存时间: 2026/11/03 14:34

想在本地运行 AI 吗？

通过我们的免费电子书《Local AI and Small Language Models》，探索小型语言模型、CPU 推理、量化以及私有 AI 应用：https://hubs.la/Q04CXtH60

收录章节包括：

• 《Domain-Specific Small Language Models》作者 @GuglielmoIozzia • 《Build Applications with Local AI Models on a Mac》作者 Keiji Kamigusa（@keiji_dl 和 @JoshuaKCage1） • 《Quantization and Fast Inference》与《Rearchitecting LLMs》作者 @PereMartra

免费电子书 Local AI and Small Language Models

来源：https://blog.manning.com/free-ebook-local-ai-and-small-language-models?utm_campaign=56611736-Local_AI_and_Small_Language_Models&utm_content=388770917&utm_medium=social&utm_source=twitter&hss_channel=tw-24914741

专有化、优化与私有化部署

选择适合你任务的模型，针对你的需求进行适配，并构建可在本地运行的软件。这本免费电子书精选了四本 Manning 图书中的章节，涵盖小型语言模型、通过 LoRA 和 DoRA 实现专有化、基于 GGUF 和 llama.cpp 的 CPU 推理，以及通过 Ollama 的 Python 库进行应用开发。你将获得关于生成结构化输出、做出明智的量化选择以及处理流式响应和聊天机器人对话历史的实用指导。无需依赖托管推理服务，更深入地理解本地 AI 背后的各种选择，并掌握可在下一个项目中尝试的具体技术。

相似文章

@Zen_with_AI: 推荐一本 @ManningBooks 的新书《Domain-Specific Small Language Models: Efficient AI for local deployment》，《领域专用小语言模型：面向本地部署的高效 A…

X AI KOLs Timeline

推荐 Manning 新书《Domain-Specific Small Language Models: Efficient AI for local deployment》（Guglielmo Iozzia 著，2026 年 5 月出版），介绍如何用领域数据微调、量化并部署小模型，在本地硬件上实现高质量的垂直任务表现，并涵盖仅依赖小模型的 RAG 与 Agent 系统。