50 个 ML 项目来理解 LLM——通过数据分析、可视化和实验探究 Transformer 机制：http://amzn.to/3P8ztDt v/ @PacktDataML

这本书完美地体现了其书名《50 个 ML 项目来理解 LLM》。全书正好包含 50 个项目，任务和子任务以令人愉悦的方式列出、解释，并以优美且具有指导意义的统一风格呈现。没有多余的教条内容。每个项目中的学习体验都能让你切实理解 LLM 概念，包括信息丰富的图表以及根据需要详细阐述的项目子任务。对于任何希望自信、有知识、有技巧地构建 LLM 的人来说，这本书都是必不可少的。

50 个 ML 项目来理解 LLM：通过数据分析、可视化和实验探究 Transformer 机制：Mike X Cohen：9781808082559：Amazon.com：图书

来源：https://www.amazon.com/Projects-Understand-LLMs-visualization-experimentation/dp/1808082559?encoding=UTF8&pd_rd_w=Bnjd5&content-id=amzn1.sym.9c9a049f-252a-49d9-a8c2-e300a1663200&pf_rd_p=9c9a049f-252a-49d9-a8c2-e300a1663200&pf_rd_r=139-7543769-0757533&pd_rd_wg=ojtrB&pd_rd_r=d6ba2d68-4dbb-4507-9cf4-454692b58411&linkCode=sl2&tag=kirkdborne-20&linkId=07e3b460f4cd2f6209dbff4043fd25ba&language=en_US&ref=as_li_ss_tl 大多数书籍教你如何从头构建 LLM 或通过 API 部署它们。这本书则通过引导式机器学习项目，教你如何理解、可视化和探究 LLM（包括 GPT 和 BERT）。

主要特点

• 每个项目围绕三个学习目标构建：机器学习技术、LLM 机制，以及使用数据可视化的 Python 编码。
• 这不是一本枯燥的理论教科书；它注重动手、实用且以项目为导向。
• 你将学习如何直接测量、可视化和操作 LLM 的内部组件。

书籍描述

通过 50 个动手实践的引导式项目（用 Python 实现），你将通过将 LLM 的隐藏状态、注意力模式和嵌入视为待分析的数据，来探究其内部机制。你不是将 LLM 看作黑盒，而是打开它们，检查内部结构，并运行实验来理解它们为何有如此行为。所有项目均基于 Python（使用诸如 NumPy、PyTorch、statsmodels、scikit-learn、Matplotlib、Pandas 和 Seaborn 等库），并提供完整解决方案和部分解决方案的笔记本文件，以便你在数据科学、深度学习、数据可视化以及科学和统计编码方面进行练习并提升技能。

你将学到什么

• 分词方案及其统计特性
• 嵌入空间：余弦相似度、语义轴和类比向量
• 输出 logits、softmax 分布、困惑度和语言偏差
• 逐层 Transformer 动力学与维度
• 注意力机制：QKV 权重、注意力分数、头部消融和激活修补
• MLP 子块：神经元调谐、互信息、子空间分析和基于统计的因果操作
• Logit Lens、间接对象识别和因果追踪

本书适合谁

本书适合数据科学家、机器学习工程师和研究人员，他们希望超越对 LLM 的表面理解。需要具备 Python 经验。熟悉机器学习或深度学习会有帮助，但并非必需——技术会在项目中逐步介绍。

目录

1. 引言
2. 分词
3. 嵌入
4. 输出 logits
5. Transformer 输出
6. 注意力
7. MLP