人人都在学AI,但我开始认为,更稀缺的技能是了解AI实际在做什么。

Reddit r/AI_Agents 新闻

摘要

作者认为,理解AI的工作原理比仅仅学会使用AI更有价值,以一家诊所失败的AI实施导致理赔被拒为例,强调了AI系统中人类监督的必要性。

每周都有人向我展示新的AI证书,大多数人学习如何使用AI,但很少有人了解机器实际在做什么。第二项技能才是关键所在。一次诊所访问就暴露了这一点,却无人能解答。文末还有周末作业,你可能会讨厌它。我经营一家AI代理公司(我找出企业中昂贵、重复的流程,量化其成本,并围绕它构建AI系统,而无需公司雇佣AI团队)。我所说的这家诊所依赖于传真转诊(医疗行业钟爱传真机)。运营经理构建了一个AI工具来读取每份传真并填写保险理赔单(他们的想法是,我们接受过AI培训,所以没问题)。我的问题是,当它无法读取传真时会怎么做?当传真无法读取时,系统返回了一个标准的9位ID、错误的成员信息、即时的拒绝且没有错误提示。它失败得如此整洁。我们打印了两个月的理赔单,用荧光笔逐一检查。两名前台工作人员每周共花费24小时修复被退回的理赔单。而这一点让我抓狂,兄弟,每个人都问该上什么课程,却没人问机器到底是什么——一个猜测最可能下一个文本片段的系统,在错误时同样自信满满。所以,关于作业的事。从头开始构建语言模型并非好的职业建议或教育建议。一个周末的尝试远远不够,且在无人监督的情况下教导它并不安全。这项技能只是识别当前机器无法做到的事。修复后,传真被转交给人类而非进行猜测,并且在发送前,每个字段都根据保险公司的格式进行了检查。拒赔率在下个月就下降了。
查看原文

相似文章

我认为仅仅学习更多AI工具已经不够了。

Reddit r/AI_Agents

文章认为,学习使用AI工具是不够的;真正的优势在于构建系统、获取关注、沟通想法以及创造人们想要的产品。执行力和技能组合将比仅仅掌握AI更为重要。