AI 并非在取代 SRE，而是在使其技能退化

# AI 不是在取代 SRE，而是在让他们去技能化 > 💌*你好呀，我是 SigNoz 的 Elizabeth！* *这份通讯是*一篇*关于可观测性、OpenTelemetry、开源以及其间各种工程实践的真诚分享！ & 这篇文章花了 6 天 5 小时才写出来，希望你能喜欢。*🌚 如今科技圈流传着两个广为流传的预言。 第一个预言说**SRE 是所有软件工程的未来（https://swizec.com/blog/the-future-of-software-engineering-is-sre/）**——随着 AI 编写的代码越来越多，留下来的人类将是维持系统存活的人。第二个预言说 AI 将吞噬所有技术岗位，SRE 也不例外。但如果你是一名 SRE，想弄清楚 2027 年的某个周二会是什么样子，这两个预言对你都没有太大帮助。 让我们问一个更务实的问题，看看已经正在发生的事情：当 AI 处理了 95% 的故障响应时，你是否会在处理那真正重要的 5% 时变得更差？ [](https://substackcdn.com/image/fetch/$s_!Hgvq!,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F530d847f-26cb-4ddd-a6de-875cbbaf8fab_6233x4167.webp) 我们大多数人已经在日常工作中使用 AI（脑子已经有点被榨干了！），SRE 们也是如此。今天讨论的主题不是 AI 会不会取代 SRE，而是 AI 是否正在悄悄削弱 SRE 的能力，以及在下一次前所未见的故障降临之前，是否有人会注意到。整个辩论的基础框架源自一篇 1983 年的研究论文，它有着令人不安的预见性。 作者注：下面是一段关于自动化历史的简短前言，如果你和我一样对历史和文化感兴趣（😉），可能会喜欢。 1983 年，一位名叫 Lisanne Bainbridge 的认知心理学家发表了一篇名为《自动化的讽刺（Ironies of Automation）（https://www.semanticscholar.org/paper/Ironies-of-automation-Bainbridge/0713bb9d9b138e4e0a15406006de9b0cddf68e28）》的论文。它成为人因研究领域被引用最多的论文之一，其核心论点在今天看来几乎令人不适地切中要害。 Bainbridge 研究了工厂和工业系统将蓝领操作员的工作自动化后会发生什么。研究发现充满悖论：你越是将一个流程自动化，在自动化失效的罕见时刻，人类操作员就变得越关键——但他们得到的练习却越少，在那些关键时刻的干预能力就越差。自动化本意是将人类从环路中移除，结果却给他们留下了最糟糕的工作——漫长的被动监控，间或穿插着罕见的高风险危机，而他们却越来越无力应对。 听着耳熟了吗？🙂 基本上，我在 AI 革命与工业自动化之间做了一个类比。工业自动化通过接管日常体力劳动重塑了蓝领工作，留下来的工人必须处理他们已经丧失肌肉记忆的例外情况。AI 正在对知识工作者做同样的事情——它接管了日常认知任务、模式匹配、分诊和已知问题的解决，把那些罕见的、复杂的、模糊的问题留给了人类。 *正是*那些需要深厚*专业知识*的问题——*而这些专业知识*恰恰在你停止练习时就会萎缩。 现在我们正以 AI 智能体的形式重演这一模式，而软件系统中的风险只会越来越大。 让我们盘点一下当今站点可靠性工程领域的现状。 告警降噪与智能分组、已知问题的运维手册执行、日志模式检测与异常标记、基于历史故障数据的基础根因建议，以及对易于理解的故障模式的自动修复（比如重启崩溃的 Pod 或对运行过热的服务进行扩容），如今都已相当自动化。 一些近期的发展方向包括：跨指标、日志和链路追踪的多信号关联，对部分已理解故障的自主根因分析，在用户受到影响之前进行预测性故障检测，AI 驱动的变更风险评估与自动回滚。 PagerDuty 将此定义为一个分层模型： - 第一层故障：已知问题且有已知修复方案的，完全自动化处理。 - 第二层故障：部分理解的问题，由 AI 提供建议，由人类验证。 - 第三层故障：新颖的、复杂的、级联故障，仍以人类为主导，AI 提供辅助上下文。 但问题来了。 如果*人类*SRE（好吧，现在得加上形容词"人类"了 🥹）只参与第三层故障——也就是那些全新的、前所未见的故障——他们从哪里获得应对这些故障的*直觉*？直觉通常来自多年的一线故障响应经验，通过反复练习建立的模式识别能力，以及那种只有在凌晨时分痛苦地被叫醒、亲手解决导致系统崩溃的 bug 之后才能培养出来的、对系统的本能理解。 这正是画面开始变得模糊的地方。让我们看看一些关于 AI 导致技能退化的新兴研究，这些研究描绘出一幅一致而令人担忧的图景。 在医学领域，一项近期研究（https://www.thelancet.com/journals/langas/article/PIIS2468-1253(25)00133-5/abstract）发现，使用 AI 辅助进行息肉检测的内镜医师，在使用一段时间 AI 后，其无辅助检测率从 28% 降至 22%。他们变得不擅长本该是自己专长的事情了——不是因为他们忘记了理论知识，而是因为他们不再练习这项技能。 在航空领域，研究（https://flightsafety.org/wp-content/uploads/2019/12/IASS_2019_Behrend_Lafargue.pdf）表明，严重依赖自动驾驶系统的长途飞行员，其情境感知能力和手动飞行能力会出现可测量的退化。问题严重到 FAA 如今强制要求更多手动飞行时间来对抗这种影响。 在过去一年的某个时刻，AI 从我偶尔使用的工具变成了我*总是*最先求助的对象。我现在的本能是尽可能多地将工作甩给 AI，只在绝对不可避免的时候才运用自己的思考。问题是，这些时刻正在成为我的大脑唯一能得到的锻炼，我能感觉到那股*锈蚀*。 我们可以从中提炼出一个规律：你越是让系统替你处理，你自己处理事情的能力就越差——而真正危险的是，*你感觉不到这一切正在发生*。它被伪装成了超高生产力。认知研究表明，由于 AI 工具让任务感觉更容易、提升了可见的绩效表现，用户往往无法准确判断自己技能的真实状态。你感觉自己很能干，仪表盘一片绿色，然后在某个周三，一个 AI 从未见过的新故障袭来，你才发现肌肉已经萎缩了。 对于 SRE 来说，这体现在具体的方式上：我们不再阅读原始日志流，因为 AI 会总结；我们在故障期间不再形成假设，因为 AI 会建议根因；我们不再构建系统架构的心智模型，因为 AI 会帮我们映射依赖关系——而每一项单独看起来都是生产力的提升。但合在一起，它们正在掏空那些让 SRE 在出乎所有人预料的问题出现时依然有效的核心专业能力。 但比技能退化更令人担忧的是，研究者们开始称之为*从未技能化*（never-skilling）。技能退化意味着你曾经拥有某种能力，但后来丧失了它。从未技能化意味着你从一开始就没有发展出这种能力。对于如今进入这个领域的初级 SRE 来说，当 AI 处理了大部分故障响应流程时，通过实操建立基础直觉和肌肉记忆的机会正在消失。 培训管道本身已经断裂，而且无法*自愈*。 SRE 意识到自己的技能在退化，于是更加依赖 AI 来弥补，这进一步加剧了技能退化，形成了一个难以逃脱的恶性循环。 我们当然不是在拒绝 AI 工具；我们正在采用它，并且比以往任何时候都更紧密地将其融入——因为这是唯一的前进之路。 几种值得考虑的方法： **刻意的低效。** 就像 FAA 即使自动驾驶系统完全有能力也强制要求手动飞行时间一样，SRE 团队可以将某些故障——即使是 AI 能处理的——指定为*人类练习机会*。这可以被视为一种保持技能新鲜的长期投资，尽管可能要以牺牲超快解决速度为代价。 **为人在环路（human-in-the-loop）而设计，而非人在一旁（human-on-the-side）。** 人类审批 AI 建议的系统和人类与 AI 一起主动参与问题的系统之间有着本质区别。前者让人类处于监督角色，而 Bainbridge（大约 40 年前写了*那篇*研究论文的那位女士）已经证明这会导致警觉性衰退；后者则让他们在认知上保持参与。 让我们拉远视角，看看更大的图景。 我们在这里讨论的一切——自动化的讽刺、技能退化的风险、从未技能化的问题——远远适用于 SRE 之外的领域。整个软件工程行业都在应对同样的张力。随着 AI 编写更多代码、审查更多 PR、处理更多调试，同样的问题也随之出现。 我们专门讨论 SRE，因为这就是**SigNoz（https://signoz.io/）**所处的世界。我们构建了一个开源可观测性平台——正是那种为 SRE 提供深入理解系统所需的指标、链路追踪和日志的工具。对我们而言，这个技能退化问题不是一个修辞时髦——它直接影响着我们将如何在产品中融入 AI。 我们的方法是从一个 AI 助手开始，帮助 SRE 利用 LLM 的力量，同时让人类牢牢掌握控制权。最终，我们会在明确的护栏内实现更多自主性，而且只在获得信任之后。 我们在这个领域的一个优势是，作为可观测性平台，我们坐在数据本身之上——SRE 所依赖的指标、链路追踪和日志。如今大多数 AI SRE 产品通过 API 与可观测性工具集成，这意味着它们只能看到你系统的有限的、二手的视图。因为我们拥有数据层，我们可以构建更深入、更懂上下文的 AI 能力，像经验丰富的 SRE 一样理解你的系统。 至于你脑海中那个迫切的问题——我们的目标不是取代 SRE 的 AI，而是让 SRE 如虎添翼的 AI。与坊间流传的说法不同，我们相信人类将在最重要的决策中保持不可或缺，尤其是那些影响生产基础设施的决策。 SRE 的未来是人类*与*AI 共同协作，而 AI 被刻意设计为让人类保持敏锐、保持参与，为真正重要的那 5% 做好准备。 这是我们创始人几天前发布的一篇**LinkedIn 帖子（https://www.linkedin.com/posts/pranay01_something-ive-been-thinking-about-lately-activity-7428804029134225408-IXif?utm_source=social_share_send&utm_medium=member_desktop_web&rcm=ACoAAC3MkwYBDZBMgATtR9hOGisjheK_u1VDu6w）**，正是它启发我写了这篇文章。 #### 关于本文的讨论 ### 还想看更多？