展示 HN：免费推理工程师与模型训练路线图

# InferQuest — 成为推理或训练工程师 来源：https://inferquest.org/ InferQuest — 经验证的LLM服务与训练学习路径 基于真实就业市场研究构建的两条免费开放路线图：让你在生产环境中让模型**既快又省**，或在最廉价的硬件上让模型**达到最佳性能**——其中的里程碑是**经过验证的，而非仅仅打勾**。 完整课程可免费浏览——登录（免费）后可追踪进度、进行练习并解锁验证器。 01 **InferQuest**是一个免费、开放、非商业的Web应用，专为学习推理工程和大语言模型训练而设计。它提供两条路径——快速低成本部署大语言模型，以及在最小硬件上将其训练至最优——并组织为任务和挑战。通过经验值、等级和连续记录追踪进度，通过分级测验和间隔重复复习进行训练，并自动验证关键里程碑，如部署端点、GPU内核、训练运行和合并的开源拉取请求。 登录（通过Google或邮箱）仅用于将进度保存至您的账户——请参阅隐私政策 (https://inferquest.org/privacy)。 02 ### 实时端点探测 部署OpenAI兼容的端点——先使用您自己的引擎，再使用生产版vLLM——InferQuest会实际探测其流式传输格式、使用量统计、max_tokens截断、错误格式和延迟目标。 ### GPU分级内核与训练运行 本地测试工具会对您的内核（注意力、KV缓存、Triton softmax、flash注意力、量化器、环形全规约）以及您的训练运行进行评分——包括首次收敛、实现≥1.5倍实测加速、在固定token预算和自有硬件上进行的不能遗忘的适配器微调。 ### 合并PR检查 开源里程碑通过GitHub API验证您提交到vLLM、SGLang、FlashInfer、TRL、torchtitan、nanochat等项目的PR是否确实存在、已合并且不是简单的拼写修正。 ### 分级面试练习 KV缓存容量计算、算力上限分析、推测解码接受率、缩放定律与数据策展决策、并行策略权衡——服务器端评分，答案从不发送到浏览器。 03 所有人从**基础模块**开始——Transformer内部原理、GPU架构、内核编程——然后分支发展。在共享的经验值阶梯上从**Token级**晋升到**基础模型级**；路径称号（推理工程师、训练工程师）将作为证书获取。 04 **推理工程师做什么？** 推理工程师致力于让大语言模型在生产环境中快速且低成本地运行：编写和调优GPU内核、管理KV缓存内存、批处理请求、量化权重，以及针对延迟和成本目标运行vLLM、SGLang和TensorRT-LLM等引擎。这是AI基础设施领域增长最快的专业岗位之一。 **成为推理工程师需要哪些技能？** 核心推理工程技能包括Transformer内部原理（注意力、KV缓存、采样）、GPU架构及CUDA或Triton内核编写、量化、连续批处理与分页注意力、分布式服务（张量与流水线并行），以及使用Nsight等工具进行性能分析。InferQuest的路线图按顺序涵盖所有内容，并为每个主要技能设置了验证关卡。 **InferQuest能教我训练自己的LLM吗？** 可以——模型训练路径正是为此设计：从零开始反向传播和优化器、使用真实Common Crawl管道进行数据策展、缩放定律数学、NanoGPT-速效工具包（Muon、FP8、融合内核）、一个可在消费级GPU或约50美元租赁算力上运行的GPT-2级预训练毕业项目，随后在单GPU上进行SFT、LoRA、DPO和GRPO后训练。这通向实验室正积极招聘的预训练、后训练和强化学习工程岗位。 **InferQuest免费吗？我能否获得证书？** InferQuest完全免费且开放。没有纸质证书——取而代之的是自动验证的里程碑：对您部署端点的实时探测、GPU分级的内核提交，以及针对真实开源仓库的合并PR检查。最终结果是一个凭证组合，招聘团队对此的重视远超证书。 **完成路线图需要多长时间？** 两条路径共包含38个任务（21,740经验值），覆盖182项任务，共享基础理论主干。有经验的软件工程师兼职学习一条完整路径预计需要约半年至一年——如果您已熟悉PyTorch和CUDA则会更快，因为早期阶段可略读。 **我需要自己的GPU吗？** 内核工程阶段需要——分级测试工具运行在您自己的硬件上，任何现代NVIDIA GPU均可。在此之前的所有内容（Transformer内部原理、推理引擎毕业项目、测验和练习）都可在CPU或免费云笔记本上运行。 每个验证里程碑都会留下凭证：探测结果、标有您GPU型号的测试工具指标、合并PR证据。这是凭证组合，而非证书。 InferQuest — 开放、游戏化的LLM推理与训练工程学习路径，提供经验证的挑战任务。 隐私政策 (https://inferquest.org/privacy) | 条款 (https://inferquest.org/terms) | GitHub (https://github.com/jneums/inferquest)