HenryNdubuaku/maths-cs-ai-compendium 来源：https://github.com/HenryNdubuaku/maths-cs-ai-compendium # 数学、计算机科学与人工智能概要 在线阅读：henryndubuaku.github.io/maths-cs-ai-compendium (https://henryndubuaku.github.io/maths-cs-ai-compendium/) ## 概述 大多数教科书将好想法埋没在密集的符号中，跳过直觉部分，假定你已经掌握了一半内容，并且在快速发展的AI领域很快就过时了。这是一本开放、非传统的教科书，从头开始涵盖数学、计算和人工智能。面向渴望深入理解知识（而不仅仅是为了通过考试/面试）的从业者。 ## 背景 在过去数年从事AI/ML工作时，我写满了笔记本，记录直觉优先、结合实际背景、不空谈的数学、计算和AI概念解释。2025年，几位朋友用这些笔记准备DeepMind、OpenAI、Nvidia等公司的面试。他们都成功入职并在岗位上表现出色。与此同时我去年也进入了Y Combinator。因此，我决定与大家分享。 ## MCP服务器 本仓库包含一个MCP服务器，允许任何AI助手（Claude Code、Cursor、VS Code等）将概要作为知识库使用。需要本地克隆本仓库。附带用于教育目的的工具和示例实现。 ## 大纲 | # | 章节 | 摘要 | 状态 | |—|——|——|——| | 01 | 向量 | 空间、模长、方向、范数、度量、点积/叉积/外积、基、对偶性 | 可用 | | 02 | 矩阵 | 性质、特殊类型、运算、线性变换、分解（LU、QR、SVD） | 可用 | | 03 | 微积分 | 导数、积分、多元微积分、泰勒近似、优化与梯度下降 | 可用 | | 04 | 统计学 | 描述性度量、抽样、中心极限定理、假设检验、置信区间 | 可用 | | 05 | 概率论 | 计数、条件概率、分布、贝叶斯方法、信息论 | 可用 | | 06 | 机器学习 | 经典机器学习、梯度方法、深度学习、强化学习、分布式训练 | 可用 | | 07 | 计算语言学 | 句法、语义、语用、NLP、语言模型、RNN、CNN、注意力机制、Transformer、文本扩散、文本OCR、MoE、SSM、现代LLM架构、NLP评估 | 可用 | | 08 | 计算机视觉 | 图像处理、目标检测、分割、视频处理、SLAM、CNN、视觉Transformer、扩散模型、流匹配、VR/AR | 可用 | | 09 | 音频与语音 | DSP、ASR、TTS、语音与声学活动检测、说话人分离、源分离、主动降噪、WaveNet、Conformer | 可用 | | 10 | 多模态学习 | 融合策略、对比学习、CLIP、VLM、图像/视频分词、跨模态生成、统一架构、世界模型 | 可用 | | 11 | 自主系统 | 感知、机器人学习、VLA、自动驾驶、空间机器人 | 可用 | | 12 | 图神经网络 | 几何深度学习、图论、GNN、图注意力、图Transformer、3D等变网络 | 可用 | | 13 | 计算与操作系统 | 离散数学、计算机体系结构、操作系统、并发、并行、编程语言 | 可用 | | 14 | 数据结构与算法 | 大O表示法、递归、回溯、动态规划、数组、哈希、链表、栈、树、图、排序、二分搜索 | 可用 | | 15 | 生产级软件工程 | Linux、Git、代码库设计、测试、CI/CD、Docker、模型部署、MLOps、监控、编码代理最佳实践 | 可用 | | 16 | SIMD与GPU编程 | 面向机器学习的C++、框架工作原理、硬件基础、ARM NEON/I8MM/SME2、x86 AVX、GPU/CUDA、Triton、TPU、RISC-V、Vulkan、WebGPU | 可用 | | 17 | AI推理 | 量化、高效架构、服务与批处理、边缘推理、投机解码、成本优化 | 可用 | | 18 | 机器学习系统设计 | 系统基础、云计算、分布式系统、ML生命周期、特征存储、A/B测试、推荐/搜索/广告/欺诈设计示例 | 可用 | ## 前言 新生婴儿的大脑是一个刚初始化的神经网络，通过现实世界的数据和经验一直训练到成年……直到永远。如果一个人法语说得极其出色且口音完美，那就意味着他接触了极好的法语和完美的口音。同样，优秀的AI研究者和工程师具备出色的问题解决能力，意味着他们吸收了优质知识并拥有丰富的经验。 现在，Kvashchev的实验是一项长期的塞尔维亚研究，表明为期三年的高强度创造性问题解决训练可以显著提高智力，特别是流体智力，增加10-15点IQ分数。存在天生高IQ的情况，就像优质的权重初始化能带来更好的训练效果（这一点被先天与后天实验的结果所证实）。然而，高IQ个体唯一的真正优势在于学习/识别模式的速度更快。但使用重复的模式，任何概念都是可以习得的。 查尔斯·达尔文被他的老师和父亲认为是一个非常普通甚至低于平均水平的学生。他形容自己并不机敏，感觉像一个需要时间来吸收数据的“慢处理器“。在3-10岁之间，我在学业上表现出色，自然而然掌握概念，从不记笔记或复习。11-13岁时我有点自大，结果掉到了一个80人班级的后半部分。14-15岁时，我开始像普通学生一样阅读，在中学最后一个学期取得了第一名。早期学校课程与自然IQ配合良好，但真正的才能是由高质量的知识吸收和执行强度驱动的。事实上，大多数在学业上表现优秀的学生只是更加勤奋，但学术体系是为快速学习者设计的。 本概要提供全面且相互关联的知识流，以促进世界上那些“达尔文“们更好地学习。你只需要基础的数学和基本的Python编程，其他一切都可以逐步掌握，只需阅读并相信这个过程！ ## 如何更好地学习 在大学的第一学期，我同时选了17门课程，成绩并不理想，所以我采用了一种技巧： 阶段1：课后累积阅读 每节课后、睡前阅读所学材料。下次上课前，从头读到当前结尾，然后通过额外研究填补知识空白。这能让你的大脑连接模式。 阶段2：考前影子阅读 阅读每张幻灯片/笔记的副标题，合上书，然后想象并写出该概念的解释。只重新阅读遗漏的部分，类似于机器学习中的掩码语言建模。重新阅读后，最终用代码实现该概念。这样你就为每个概念培养了肌肉记忆。 这对于那些不太自信的朋友来说效果很好。事实上，其中一位朋友在高阶工程数学课程中超越了我（我们当时学习了海森矩阵和优化）。她现在在一家大型石油天然气公司工作。 意愿比身体更重要（罗森塔尔实验）。 ## 亨利·恩杜巴库是谁？ 请阅读GitHub个人资料！ ## 引用 bibtex @book{ndubuaku2025compendium, title = {Maths, CS & AI Compendium}, author = {Henry Ndubuaku}, year = {2026}, publisher = {GitHub}, url = {https://github.com/HenryNdubuaku/maths-cs-ai-compendium} }