在AI时代保护工程师技能

# AI时代如何保护工程师的技能 来源：https://spectrum.ieee.org/ai-engineer-skills 十多年前，我曾主导设计一套全数字控制系统，用于美国一座核电站的开创性项目。理论上，这台机器堪称完美——它被设计成能像现代客机一样自主运行，操作员只需监控一个几乎无需干预的系统。但我们做了一个在效率至上者看来似乎倒退的决定：我们刻意在系统本可自动执行的流程中保留了人工操作步骤。 我们当时在解决一个特定问题。一个永远只监督自动化的操作员，会逐渐丧失操作员的身份。双手会变得冰冷，对电厂实际运行状态的认知会变得模糊。然后总有一天，自动化系统会将控制权交还给人。这永远是最糟糕的一天，因为自动化只有在陷入困惑或困境时才会退出。但到那时，坐在控制台前的人可能已经多年没有真正操作过设备了。保留人工步骤是为了让操作员保持技能熟练。这是刻意为之的低效设计。 讽刺的是，那座核电站最终未能建成。它因围绕美国核能政治和经济的因素而被搁置，这些因素与工程本身无关。但这个设计理念超越了项目本身而留存下来。我逐渐相信，这是我能为当下困扰每个董事会的争论提供的最有价值的思考：当AI接手了过去培养人类专业技能的工作时，人类的专业技能将会怎样？ ## AI正在颠覆工程师的职业阶梯 这些数据已不容忽视。哈佛大学一份覆盖超过28万家美国公司约6500万名员工的工作论文显示，采用生成式AI的企业，在采用后的六个季度内，初级岗位就业率相比未采用企业下降了约9%，而高级岗位就业率则持续增长。斯坦福大学对ADP薪资记录的分析也指向同一趋势：在AI影响最大的职业中，最年轻的从业者在2022年末后竞争力下降，而更有经验的同行则保持了优势。斯坦福的研究人员发现，这种下降集中在AI实现自动化工作的领域；而在AI仅起辅助作用的领域，初级岗位的就业率则保持稳定或上升。 因果关系尚有争议，需要诚实说明。纽约联储的研究人员将年轻毕业生失业率上升的主要原因归咎于远程工作而非AI，认为企业不愿雇佣无法远程培训和指导的无经验人员。但请注意这些解释的共同点：无论是AI模型吸收了基础工作，还是远程工作割裂了围绕工作的师徒关系，两者描述的是同一个断裂的机制——专业知识通过学徒制从高级人员传递给初级人员的通道被破坏了。无论哪种情况，“初级岗位”的含义已悄然变为“需要三年经验”。 拨开表象，核心问题简单得具有欺骗性：你不可能跳过初级工程师阶段直接成为高级工程师。专业知识无法下载，它是通过失败的构建、走进死胡同的调试，以及那些“这怎么会行得通”的时刻获得的。而现在，能力强的AI会愉快地为新人省去这些经历。省去得足够多，你培养出的将是这样一群人：他们理论上能监督模型，却从未培养出那种直觉——那种能判断模型是否正自信地走向灾难性错误的直觉。 大多数讨论止步于诊断，或将初级岗位流失视为经济问题寻求政策解决方案。然而，这同样是一个工程问题，而安全关键领域已经花了数十年学习如何解决它。 ## 航空业关于自动化悖论的教训 我的职业生涯始于自动化领域的前沿。毕业后第一份工作是验证和确认数字喷气发动机控制软件，该软件决定战斗机发动机如何响应，其反应速度远超任何飞行员。即使在1980年代末，核心矛盾已显而易见：机器在常规情况下性能优于人类，但在机器未预料到的情况下，人类却是阻止飞机坠毁的唯一防线。这种矛盾被称为自动化悖论——能力日益强大的自动化让人类操作员练习减少，同时只留给他们最困难的情况。 航空业已多次付出高昂代价认识到，人类技能在自动化鸿沟中萎缩会导致什么后果。典型例子是2009年坠入大西洋的法航447航班。直接原因很平常：结冰的空速传感器向自动驾驶仪提供了错误数据，而自动驾驶仪按照设计逻辑断开并将飞机控制权交还给机组人员。随后发生的不是硬件故障，而是能力故障。一个本可挽回的局面变成了无法挽回，原因在于飞行员习惯了数千小时观看自动驾驶飞行，无法识别高空空气动力学失速并手动操控飞机脱离。飞机本身是正常的，被自动化悄然侵蚀的训练技能却失效了。 航空业的应对具有启示意义，它与我们在那个核电站控制室采取的措施如出一辙。行业没有拆除自动驾驶仪，而是刻意将手动操作练习重新引入。2017年，美国联邦航空管理局发布了运营人员安全警报17007号——“手动飞行操作熟练度”，明确指出“手动飞行是其他飞行技术技能建立的基础”。该警报正式将技能退化本身视为一种危害。一些航空公司修订操作程序，鼓励在良好条件下进行初始爬升和初始下降时的手动飞行，明知会牺牲一点点燃油效率，也要保持机组人员的基本飞行技能。这种权衡正是关键所在。一个完美优化却产生无能操作员的系统，根本不是优化过的。它只是将失败模式转移到了电子表格无法显现的地方。 ## 手动关卡可以保护工程技能 将航空业的教训与核电站的设计直觉并列，它们共同指向我们现在在AI增强型工作中需要的一种设计模式：刻意的“手动关卡”。 手动关卡是指工作流程中的一个节点，由人类接管控制，不是因为这是最快完成任务的方式，也不仅仅是安全联锁措施，而是专门为了锻炼和保持某种否则就会衰减的技能。其显著特征是它被主动选择。你作为一个设计决策，决定组织中哪些能力必须由人类保持活跃，因为这些能力是你在危机时刻所需要的。然后你设计所需的阻力来保持这些能力的热度。 想象一下这在主要依靠AI编写代码的软件团队中如何运作。团队在最不可或缺的技能——调试——周围设置手动关卡。当关键模块出现缺陷时，指定的工程师——刻意地，经常是初级工程师——必须首先重现故障，追踪到根本原因，并编写一个捕获该缺陷的自动化测试，所有这些都必须在AI助手关闭的情况下进行。只有在工程师提交诊断后，模型才会重新启用，提出修复建议、生成替代方案并在代码库中扫描类似错误。然后工程师将自己的诊断与模型的进行比较。当两者不一致时，设计目标就达成了——分歧在危机来临前就暴露出来了，而非在危机发生时。 这种方法彻底重塑了初级工程师的角色。当今的直觉是让AI做初级工作，因为它更快、更便宜。但其中一些工作不是要消除的开销。它们是你未来高级员工的培训体系，你应该像保护任何其他关键基础设施一样保护它。这或许在本季度效率不高，但悄然拆除它就是在透支你十年后的能力。 ## 公司为何必须坚持培养初级工程师 这些都不是免费的，假装如此会侮辱那些需要签署预算的人。刻意的手动关卡在设计上就是短期内效率低于全自动化。让初级员工做基础工作和运行手动流程需要当前付出成本，以保护未来。 在一个以季度结果评判大多数领导者的市场中，这很难推销。一个带着“不必要”的人力（AI本可替代）上任的执行官，会在收益实现之前很久就从董事会听到意见。这个算式只对那些免受此压力影响的人成立：拥有控制权的创始人、私营公司、拥有真正长远视野的机构，或者愿意要求员工定期展示技能（就像飞行员必须做的那样）的监管机构。这意味着最有可能保护自身专业知识的组织，是那些在结构上能够为长期能力牺牲短期利润的机构；其他所有组织都需要外部推动。 所以，这是我的核心论点：刻意的低效不是浪费。在安全关键型工程领域，我们一直将其视为保险，并且是有意购买。随着AI接管那些锻造专业技能的工作，明智之举不是抵制自动化，而是通过设计保持我们双手放在控制台上——这样当自动化失效时（它最终总会失效），控制台前仍然有人知道如何飞行。