@LinusEkenstam: ROT — 代币回报(Return on Tokens)。我们都知道终有一天会走到这一步。从一开始,Tokenmaxxing 就是个愚蠢的主意。它……
摘要
作者批评了在LLM使用中追求token最大化的趋势,并主张通过优化和路由转向代币回报(ROT),以实现可持续的AI部署。
查看缓存全文
缓存时间: 2026/06/29 08:32
ROT — 代币回报率。
我们早就知道迟早会走到这一步。
从一开始,“代币最大化“就是个愚蠢的主意。只是当所有人都在跟风狂欢时,你很难抗拒。
但对我们中的一些人来说,多年来一直很清楚:首先,我们会看到不计代价的疯狂增长。
因为没人想被落下。所以我们把所有东西/所有人/所有钱都砸到台面上。
一个按代币消耗量排名的排行榜,仿佛这直接等同于产出和价值。实际上它只是个花钱排行榜,仅此而已。
2022年,我们中有几个人公开讨论过:要多久我们才会开始真正重视代币优化?因为在早期,你不得不这样做——上下文太短,所以你在处处优化。然后突然之间,价格不断下降,上下文不断增长。
我们停止了优化,开始追求最大化。因为何必克制自己呢?
好吧,这也是 @markiewagner 出色工作所在——她对这个课题的见解无人能及。她的文章链接如下。
但我想补充一点:ROT,代币回报率,并不是新鲜事,它只是变成了正确的事情,正如它从一开始就应该如此。
但我们人类很简单,我们喜欢赌场,喜欢一起变得妄想,不断喂养这头野兽。
你不会搞“人员最大化“,然后等上几年才发现——哦,无止境招人并不等于成功,你得看招聘的回报率。
在这个镀金时代,我们自然而然会决定朝着更可持续的未来方向,去思考如何管理代币使用。
早在2022年,当我们描述未来的系统时,大家对路由机制有强烈的共识。
良好的路由能力是实现出色ROT的关键杠杆。而减少用量是最简单的,路由可能是最难的——因为它几乎有无限的可能结果。
我很高兴我们终于回到了正轨。期待未来真正构建行为和系统——不再像中了彩票一样追求最大化开支,而是像重新发明了资本主义一样追求最大化回报。
相似文章
Tokenmaxxing 已死,Tokenmaxxing 永存
对 Meta 等公司的“tokenmaxxing”现象的分析,认为高管们故意鼓励浪费 AI token 使用以推动工具采用,这与意外管理不善的看法相反。
@sdianahu: tokenmaxxing 并不是‘花费更多 tokens’,而是相反:tokenmaxxing = 选择要最大化正确指标,然后让其他一切尽可能……
一条推文解释,‘tokenmaxxing’ 是关于在最小化成本的同时优化正确指标,利用智能成本下降的趋势,并指出品味才是稀缺的输入。
Tokenmaxing已过时 - 节约型AI成新趋势
Tokenmaxing(无限AI令牌使用)的时代正在结束,因为企业面临高昂成本和生态破坏,取而代之的是tokenminimizing——注重效率并为任务选择合适的AI模型。
@HaydnBelfield:听说tokenmaxxing实验和token排行榜的主要好处似乎是启发/探索性的…
Haydn Belfield讨论了tokenmaxxing实验和token排行榜如何通过测试AI模型极限和发现新工作流程来发挥启发和探索作用。
@dabit3: Tokenmaxxing 已死。大家都意识到用token使用量来衡量生产力是个糟糕的方法。那么接下来我们该怎么做……
讨论AI采用中从基于token的生产力指标转向产出、影响和价值衡量,重点介绍Cognition的解决方案:自适应路由、支出归因、自动化以及生产力保障。