好吧，终于发生了：我们因为成本而不再使用模型

大家好！我已经在一家大公司（财富500强）工作了3年。我们是一家“AI优先”的公司。入职时，领导明确告诉我，不仅允许我在工作中使用人工智能，而且期望我所有的工作都要涉及AI。我的部门对待这个流程相当认真。整整一年，我们都在接受培训。开发者、经理、销售人员，每个人都接受了相关工具的训练。我们“全速前进”。每个人都获得了Copilot和Claude的使用权限。我们每两周举办一次演示，分享AI在公司各个项目中的用例。最终，我们启动了一个非常大的AI项目。这是一个试点项目，旨在探索AI的工作流程并了解其能力。不幸的是，该项目失败了。该项目是对一个遗留应用的重写。我们要求Agent根据代码“按原样”定义系统规则。然而，Agent不断遗漏小细节，并且在编写清晰的代码规范时也遇到问题。原本的思路是首先进行重写，本质上利用遗留代码为新系统定义规范文档。我们连这一步都没做到。业务规则显然过于复杂。尽管如此，领导层的态度仍然乐观。他们认为这个项目是系列步骤中的第一步。我们的首席架构师将所学应用到未来的机会中。与此同时，我们继续使用AI解决日常问题。就我个人而言，结果好坏参半。对于小型重构，它非常出色，但对于大型任务，它就会做一些疯狂的事情。迄今为止最离谱的是SQL代码，它直接删除了所有进行插入和删除操作的表上的约束。这真是……特别。当然，我们有完善的开发实践，所以这些代码从未进入生产环境，但生成的代码有时会很奇怪的情况并不少见。最后，今天我发现我们正在缩减AI的使用。我们失去了Claude的访问权限，并且被要求限制使用，因为成本问题。公司仍然鼓励使用AI，但我们已经停止了培训和演示。我们的架构师告诉我们，只对任务使用较旧的模型。这件事引起我的注意是因为埃德·齐特隆（Ed Zitron），他广泛报道过AI，之前一直说AI会遇到麻烦，因为成本太高。现在我看到了更多关于工作中AI成本的讨论。如果AI想长期取得成功，就必须降低成本。