不受欢迎的观点:大多数企业AI试点项目从未投入生产,因为它们将生成模型应用于需要判别模型的问题
摘要
文章指出,许多企业AI试点项目失败的原因是使用了生成模型来处理更适合判别模型的任务,强调了数学目标和更新机制上的差异。
在金融市场和企业数据基础设施领域构建分布式系统近三十年后,我反复看到同样的模式。一个持续运行的欺诈检测模型,从运营数据中更新,每天做出数百万次可审计的决策。没人称它为AI。它只是有效工作。已经运行多年。与此同时,同一家公司运行前沿LLM试点项目十八个月。仍然是试点。输出需要人工审核每一个决策。治理层未就绪。可审计性问题未解决。没有产生投资回报。差距归结为大多数人跳过的一个数学区别:判别机器学习找到 θ = argmax P(y | x ; θ)。你的参数、你的数据、你的操作分布,从你的数据流中连续更新。* 生成LLMs找到 x = argmax P(x | x_prompt ; θ)。别人的参数、别人的语料库,在训练时冻结,无论有多少你的事件流经它。这不是同一事物的两种版本。不同的数学目标、不同的推理方向、不同的更新机制。完整的论证写在这里,包括令我惊讶的神经科学类比、微调和开放权重的反驳,以及欧洲企业的数据主权/CLOUD Act角度:https://medium.com/@dcris19740101/the-enterprise-already-has-ai-it-just-does-not-call-it-that-2f38b2afa3f5 好奇其他人在生产环境中的观察。
相似文章
企业是否将AI用错了地方?
这项分析质疑了将AI机械地插入所有企业工作流程的做法,指出确定性系统往往需要传统软件而非概率性模型。它主张采取一种战略方法,区分AI能够创造杠杆效应的领域与成熟架构仍占据优势的领域。
生成式AI是一场工程灾难 - The Atlantic
这篇文章认为,生成式AI存在根本性的工程缺陷,尽管其能力令人印象深刻,但使其不可靠且具有潜在危险。
为何大多数企业AI试点项目最终构建了一个“工具博物馆”而非实际能力
文章认为,企业AI试点项目常常因创建碎片化工具而失败,并强调需要一个统一的智能体操作系统来构建可扩展的AI能力。
生成式AI在创建对象方面仍然强于让用户对它们进行操作
文章讨论了生成式AI产品中的一个常见模式:虽然初始创建变得容易,但对生成对象的受控修改和局部编辑仍不成熟,限制了实际效用。
企业AI项目失败真的是因为AI不够好吗?
本文质疑AI模型质量是否是企业AI项目失败的主要原因,指出数据和上下文问题往往是真正的罪魁祸首,解决这些问题可以让AI实施变得更容易。