企业是否将AI用错了地方？

大多数企业 AI 讨论仍然围绕着一个问题： > 但我开始认为这可能完全是个错误的问题。 更重要的问题可能是： > 因为并非每个系统都能从概率智能、自主代理或推理模型中受益。有些系统在引入 AI 后实际上会变得更糟。 历史上，企业软件的演变是有原因的。对于确定性系统，我们已经构建了针对以下方面优化的技术： * 可靠性 * 一致性 * 可预测性 * 可审计性 * 可逆性 这就是我们创建以下系统的原因： * 数据库 * ERP 系统 * 工作流引擎 * 规则引擎 * 交易系统 * 审批管道 * 验证层 这些系统旨在减少歧义。例如： * 薪酬系统 * 税务计算 * 银行分类账 * 合规工作流 * 库存对账 * 航空公司预订系统 在这些场景中，“创造性概率推理”并非总是可取的。在许多情况下： > 但目前，许多组织似乎在近乎本能地将 AI 插入工作流中。就好像： > 与此同时，相反的情况也在发生。一些企业过于担心： * 幻觉 * 治理 * 合规 * 安全 * 问责 以至于完全避免使用 AI。 因此，组织越来越陷入以下两种极端之间： * “无处不在的 AI"和 * “无处可用的 AI"。 我认为这两种极端都没有抓住重点。 因为 AI 不仅仅是一个软件升级。它改变了组织： * 处理不确定性的方式 * 做出决策的方式 * 协调工作的方式 * 表征现实的方式 * 分配职权的方式 * 分布自主权的方式 这意味着真正的企业挑战可能不是： > 而是： > 意思是： * 确定性系统应在哪些地方保持原样？ * AI 应在哪些地方辅助人类？ * 人类应在哪些地方保留完全控制权？ * 自主代理实际上应在哪些地方被允许行动？ 例如： 薪酬引擎可能仍然需要确定性软件。 客户支持摘要系统可能受益于 AI 辅助。 医疗推荐系统可能需要 AI + 人类监督。 监管申报工作流可能需要严格的治理和有限的自主权。 这些是根本不同的执行模型。我怀疑未来的赢家不会是使用最多 AI 的公司。它们将是足够成熟以至于能够理解以下内容的公司： * AI 在何处创造杠杆 * AI 在何处创造风险 * 以及旧有的确定性架构在何处仍然更优 很好奇这里的其他人如何看待这个问题。你认为企业目前是： * 过度使用 AI， * 使用不足， 还是在组织系统的错误层级上使用 AI？