AI 评测课程沉淀的 8 项技能：助你为自己的产品构建 AI 评测体系——从错误分析 → 评测器 → 校准 → 监控

来自 @HamelHusain 和 @sh_reya 的 AI 评测课程**「工程师与产品经理的AI评测课」**。Hamel 也为这门课程撰写了内容详尽的博客与常见问题解答：

工程笔记博客

meng shao@shao__meng·9月17日·译自中文·查看原文 13场讲座，共9.5小时，@HamelHusain 将“AI产品工程”浓缩为一份优化优先级手册：首先修复检索和上下文，然后修复系统，最后才是微调。

而所有这一切都始于评测（Evals）。

提供正确的文档，分数就能从… （查看更多）文章：13场讲座·9.5小时浓缩成文：Hamel的AI产品工程笔记，评测、上下文、系统的优化全序 Hamel Husain @HamelHusain（以其LLM评测方法论闻名）在其Maven课程「AI产品工程」13场、共计9.5小时的讲座后沉淀的笔记索引（2026年8月发布）。他将全部内容提炼至约20分钟的阅读量，按… 93213721K

方法论常见问题解答

meng shao@shao__meng·9月19日·译自中文·查看原文 AI智能体评测：大多数团队从搭建平台、集成LLM裁判、观察分数开始。

@HamelHusain 和 @sh_reya 在教授了700多名工程师后，给出了相反的答案：首先手动阅读100条真实trace（追踪记录），识别失败模式，然后才会… （查看更多）文章：AI智能体评测实战常见问题解答：先发现失败，再谈评估，700+工程师踩坑后的完整方法论 AI评测：你需要知道的一切 作者：Hamel Husain @HamelHusain & Shreya Shankar @sh_reya

本文基于两位作者开设的AI评测课程，是面向700+工程师与产品经理的实战经验沉淀。表面是… 183812415K

核心理念：先看数据，再写评测

整个项目只反对一件事——未进行错误分析就开始堆砌指标。其方法论链条是：定性分析trace → 发现失败模式 → 针对每个失败模式构建评测器 → 使用人工标注进行校准。8项技能恰好覆盖这条链路的每一步。

8项技能

贯穿全局的方法论

• 错误分析优先：只有先定性分析trace、发现失败模式，才有资格构建评测。“在阅读trace之前就定指标”是反模式。
• 二值评判：通过/失败，禁用李克特量表（标注者难以区分3分和4分）；若需细分严重性，应拆分为多个二值评测器。
• 一个评测器只测一个失败模式，不做整体“好不好”的评分。
• 先穷尽代码手段（正则表达式、schema校验、执行测试），很多“主观”问题其实是关键词检查。
• 评测器必须校准：约100条人工标注（50条通过/50条失败），划分训练集/验证集/测试集，使用TPR/TNR（不用准确率），目标>90%，测试集只运行一次。
• 偏差修正（Rogan-Gladen）：θ̂ = (p_obs + TNR − 1) / (TPR + TNR − 1)；报告必须包含bootstrap 95%置信区间。
• 锁定模型版本（带日期快照），提示词/模型变更后需重新校准。

各技能关键细节

错误发现（五个阶段）

• 理解领域与数据：通读5–10条记录，识别内容维度与变化维度。
• 设计视觉编码：颜色代表类别（不用于数值）、透明度代表冗余、间距代表层级、等宽字体代表代码；遵循格式塔原则。
• 构建评审界面：使用Python标准库http.server，零依赖；包含三种视图（内容/PCA-UMAP散点地图/进度与失败模式树状图）；支持行内标注+批注；仅使用自由文本笔记，不使用表单。
• 聚类选样：KMeans聚成6–10簇，选取15–25条样本（60–70%来自簇中心代表 + 30–40%随机样本），多样性优先于频率估计。
• 交互评审循环（review-loop.md）

评测审计（六个检查区）

1. 错误分析是否基于真实trace（观察到的失败类别 vs. 凭空想象的研究标签）。
2. 评测器设计（二值？针对性？避免将ROUGE/BERTScore作为主要评测指标）。
3. 评测器校准（TPR/TNR、无少样本泄漏）。
4. 人工评审（领域专家、查看完整trace、以自然格式展示）。
5. 标注数据量（约100条错误分析即达饱和；评测器校准需50+50）。
6. 流程规范性（变更后重跑、定期重校准）。结论三态：存在问题 / 正常 / 无法判断；按对产品的影响排序。

生成合成数据（维度元组法）

从3个维度开始 → 与用户共同起草20个元组 → 用LLM扩展元组 → 使用独立的提示词将元组转化为自然语言查询（单步生成会产生重复）→ 质量过滤（真实感评分1–5分，<3分弃用）→ 运行完整流水线获取trace，目标约100条。真实数据抽样使用分层抽样（小数据人工分组，大数据使用嵌入向量+K-means），不要随机抽样。反模式：无结构的“给我一些测试问题”、任意维度、无法判断真实感的领域（法律/医疗）、低资源语言。

编写评测器提示词（四要素）

1. 任务与判据（单一失败模式）。
2. 通过/失败定义（源于错误分析，包含具体例子）。
3. 少样本示例（≥1个通过例 + 1个失败例 + 1个边界例；边界例最有价值；2–4个足够；只能取自训练集划分，防止泄漏）。
4. 结构化输出（分析批评必须在结论判定之前，强制先进行推理）。

从最强模型开始；评测器可以与主任务使用相同模型（裁判是更狭窄的任务）。规范失败模式时，先修改提示词增加指令，将评测器作为回归守卫——顺序不能颠倒。

验证评测器

• 数据划分：训练集10–20%（用于少样本）/ 验证集40–45%（用于迭代）/ 测试集40–45%（最终只运行一次）。
• 只看TPR/TNR，不用准确率/精确率/召回率/Kappa系数（Kappa仅用于评估两个人类标注者间一致性）。
• 90%为目标，80%为底线；遇到瓶颈则换用更强模型、拆分判据、补充定向少样本示例。
• Rogan-Gladen偏差修正 + bootstrap 95%置信区间，拒绝点估计。
• TPR越高，置信区间越窄；标注数据<60条时，置信区间会显著变宽。

评测RAG（检索增强生成）

• 先分析trace定位问题：是检索问题，还是生成问题，或两者兼有。
• 检索指标：首轮检索使用 Recall@k（LLM无法凭空生成缺失内容）；重排序使用 Precision@k；单事实查找使用 MRR；NDCG存在“多个弱相关压过一个强相关”的问题，需配合 Recall@k使用。
• k值选择：事实查找 1–2，综合类 5–10；多跳检索使用两跳 Recall@k 并分类失败原因（跳1未命中 / 跳2未命中 / 排名出圈）。
• 合成问答：对每个chunk提取事实 → 编写只能由该事实回答的问题；对抗性问题：使用嵌入检索找到干扰chunk并借用其术语。
• 分块策略：将chunking视为超参数网格搜索（大小 × 重叠度），使用自然边界 + 前置文档标题/章节标题。
• 生成评测：将忠实性（幻觉/遗漏/曲解）与相关性分开评测；诊断模式：高上下文相关性 + 低答案相关性 → 生成器关注了错误段落；低忠实性 → 幻觉；低上下文相关性 → 检索问题。
• 反模式：单一端到端指标、使用ROUGE/BERTScore/余弦相似度作为主要评测。

构建评审界面

• HTML逐条展示trace，提供通过/失败按钮 + 自由笔记 + 延迟处理，自动保存到本地（CSV/SQLite/JSON）。
• 数据按原生可读格式渲染（markdown/代码高亮/美化JSON），折叠重复内容但保持完整trace可达。
• 键盘快捷键：1=通过，2=失败，D=延迟，U=撤销；初版不添加预定义失败标签（等错误分析建立类别后再添加）。
• 安全：净化LLM输出（去除原始HTML、禁用图片以防跟踪像素）。
• 使用Playwright截图 + 功能测试进行验证。