标签
> **演讲总结**：这是作者在 AI Engineer World's Fair 上关于 evals（评估）的演讲总结，记录了如何将一个 LLM 评审器（LLM judge）从完全不可用提升到与人类判断 30 次中有 27 次一致：包括改用点式评分（point-wise scoring）避免偏好偏差、校准上下文（context calibration）、更换模型以及应对谄媚倾向（sycophancy）等步骤。
作者探讨独立工程师在AI工具快速发展但行业标准尚未定型的短暂窗口期，如何保持价值与自主性，避免成为平台吸收创意的免费研发力量。
一家菲律宾软件公司正在赞助具备真实 AI/LLM 项目经验的开发者参加官方 Anthropic Claude 认证架构师考试，费用采用 50/50 分担方式，并提供备考资料和模拟评估。
作者强烈推荐这篇文章给所有构建 AI 应用、自动化以及 Forward Deployed Engineer 角色的人，梳理了完整的 AI 工程技术栈：Python → FastAPI → LLM API → Tool Calling → RAG → Workflow → Agent → Eval → Deployment。
一篇 AI 工程评论，指出 AI 应用远不止一个 LLM API 调用，将技术栈拆解为算力与存储、模型服务、模型、上下文、编排、智能体和体验等层次——建议开发者从托管模型起步，只在需要时才逐步增加复杂度。
一位从业者分享了从零成为 AI 工程师的 6 个月路线图，涵盖软件基础、LLM 应用开发、RAG、智能体与评估、部署/可靠性以及方向选择——强调公司招聘的是在模型之上构建系统的人，而不是训练模型的人。
一篇面向 AI 工程师的 GPU 深度解析，涵盖 GPU 架构（SM、Tensor Core、CUDA kernel）、训练与推理的差异、GPU 各代产品与定价、NVIDIA 的竞争对手，以及在本地运行 gpt-oss-120b 和 Kimi K3 所需的显存与算力实操计算。
Rohit G 为 MIT 许可的《AI Engineering from Scratch》课程新增了「Projects」（项目）板块，收录了 48 个使用多种编程语言从零构建的 AI 项目，并配备自动评分系统，可对每个阶段进行测试。
一条推文列出了关键的AI工程概念，例如KV cache和speculative decoding，挑战专业人士在2026年的面试中清晰地解释它们。
免费、开源AI工程课程，包含523课，现提供EPUB/PDF书籍版本并支持八种语言，专注于从零开始构建算法。
这是一本由哈佛大学出版的开源教材，旨在将机器学习系统工程建立为一门定量工程学科，类似于计算机体系结构学。书籍涵盖从单节点到万卡集群的ML系统设计原则，并强调工程化而非仅模型为中心。
一个GitHub仓库，汇集了来自35家主要公司的泄露的AI工程面试问题，按公司组织，并附有解决方案的直接链接，涵盖了高频主题和面试流程。
一位有志于AI工程师职位的开发者向资深从业者请教：什么样的项目作品集最能体现生产环境技能？他提出了LLM路由服务、带防护机制的智能体系统、本地推理微服务等方向，并询问作品集中常见的不足之处。
斯坦福大学发布了一个免费的67分钟课程，教授从零开始构建AI代理，涵盖编码和无代码方法。
本文阐述了AI工程化中的关键概念，强调提示词是上下文、工具集成、循环、评估和图形等工程的核心，解释了这些术语在AI Agent开发中的应用。
一条来自@mattpocockuk的推文鼓励分享课程完成证书，其中一条回复显示有人希望在伊利诺伊大学芝加哥分校为AI工程职位招聘课程毕业生。
g2i_ai的团队正在组织AI Engineer Code Summit，将于今年在旧金山举行，汇集AI软件开发领域的专家。
作者分享了为GPT-3.5 Turbo构建代理框架的见解，强调基于代码的验证和防护措施对于可靠的AI代理性能至关重要。
本文按瓶颈问题组织了AI中的13种注意力机制，涵盖KV缓存缩减、注意力模式、计算效率和服务效率，以帮助AI工程师理解和应用这些技术。
这条推文庆祝了《LLM 工程师手册》成为 Packt 出版社 2025 年最畅销的书籍，并预告了即将推出的第二册。