逐一审查单个AI输出无法扩展。审查失败模式才行，但几乎没人做后者。

大多数发现不良AI输出的团队都是逐个处理的——有人注意到不对劲，修复那个特定案例，然后继续。在低量时这没问题。但一旦输出量超过任何个人实际能检查的范围，就会失效，因为你现在只抽样了实际发生的一小部分，并将每次捕获视为孤立事件而非症状。真正可扩展的是记录失败情况，且结构化到足以寻找模式，而非逐个修复。例如，哪些失败围绕特定输入类型聚集？哪些围绕特定长度或复杂度阈值聚集？哪些在特定边缘情况后更频繁出现？这将单个不良输出转化为你可以围绕其设计的模式，而不是永无止境的临时补丁流——这些补丁永远不会收敛到任何实质改进。对这种做法的抵制是可以理解的：它前期更慢，而且不像修复特定不良输出那样感觉有生产力。但逐个修复意味着相同的失败模式以稍有不同的形式反复出现，而没人注意到这是相同的潜在缺口，因为每次出现在孤立状态下看起来都是新的。