您是否应该在组织中使用AI时尽量减少token用量?我认为大多数组织不应照搬这个建议。

Reddit r/AI_Agents 新闻

摘要

文章认为,组织不应过早限制AI token用量以追求效率,因为广泛的试错对于建立深厚的AI专业知识和长期竞争优势是必要的,并以Uber和Amazon为例。

最近,像Uber和Amazon这样的公司开始限制员工使用AI token,理由是消耗过大。特别是Amazon,已经不再将每位员工的AI token用量作为绩效评估的KPI。乍一看,这类新闻可能让人以为正确做法是专注于用AI直接产生结果,同时控制token用量。然而,现实很可能是他们已经完成了大量AI用例的测试。虽然这可能是“哎呀,我们花得比预期多”的情况,或者只是转向效率,但毫无疑问,他们在利用AI方面比那些几乎没怎么使用过AI的公司拥有更多的经验和专业知识。如果你只看表面,在还没有掌握这项技术之前就采取限制token用量或只将AI用于能立即产生结果的任务的立场,那就会在这样一个潜力巨大的领域缩小试错范围。如果那样做,我认为你会发现公司所能做到的只是一些微小的效率提升——那种甚至算不上AI代理的琐碎任务自动化;说白了,就是RPA。我相信,那些局限于这种低级AI使用的公司,与那些虽然一度在AI成本上超支、但通过广泛试错在个人和组织层面积累了深厚AI经验的公司之间的差距,将变得无法弥补。目前我几乎全身心投入自己公司的产品开发,但偶尔也会收到各种公司关于AI实施的咨询。许多人试图从一开始就追逐结果,跳过试错过程。正因为如此,我经常给那些感觉进展不顺利的人提供建议。你见过身边有谁试图推动AI项目并立即获得结果,却没有经历试错过程而成功的吗?这样的人真的存在吗?
查看原文

相似文章

你的AI战略是在烧钱还是创造资本?

Reddit r/artificial

本文批判了当前企业中的AI狂热,由于Token滥用等低效使用方式,飙升的成本往往超过投资回报率。文章倡导同时关注组织流畅性和算法成本降低(例如观察掩码),从而将AI从资本消耗者转变为价值创造者。

AI token 使用在什么情况下会成为业务问题?

Reddit r/AI_Agents

文章强调了AI token使用经济性在大规模应用时被低估的挑战,讨论了随着组织从概念验证转向企业级部署,成本如何成为治理问题。它提出了关于成本可见性、监控以及平衡性能与成本的问题。

每个AI提示都需花费成本——这改变了一切

Reddit r/AI_Agents

文章认为,AI的真正挑战不仅在于构建更智能的模型,更在于以规模化的方式降低成本效率,强调了减少token使用、提升速度以及优化基础设施的重要性。

拥有一致的 AI 政策

Hacker News Top

本文批评了将 'tokenmaxxing' 视为 AI 采用的虚荣指标的趋势,并提出了一种连贯的 AI 政策,强调理解 AI 生成的代码、不依赖 AI 工具的自给自足以及关注客户和队友。

AI用量限制就像一个黑箱

Reddit r/AI_Agents

本文批评了AI代币用量与定价缺乏透明度,认为Claude和Cursor等提供商故意模糊消耗情况以掩盖成本并促使升级。