@LinusEkenstam: ROT — 代币回报(Return on Tokens)。我们都知道终有一天会走到这一步。从一开始,Tokenmaxxing 就是个愚蠢的主意。它……

X AI KOLs Following 新闻

摘要

作者批评了在LLM使用中追求token最大化的趋势,并主张通过优化和路由转向代币回报(ROT),以实现可持续的AI部署。

ROT — 代币回报(Return on Tokens)。 我们都知道终有一天会走到这一步。 从一开始,Tokenmaxxing就是个愚蠢的主意。只不过当所有人都喝下了迷魂汤时,很难抗拒。 但对有些人来说,多年来一直很清楚:首先我们会看到不计代价的疯狂增长。 因为没有人愿意被落下。所以我们把一切/所有人/所有钱都押上。 排行榜上的token消费大户,仿佛这与产出和价值直接相关。而实际上这只是一个消费排行榜,仅此而已。 2022年,我们中的一些人公开讨论过,还需要多久才能看到token优化成为现实,因为在早期你必须这样做,仅仅因为上下文很短,所以你到处优化一切。然后突然间,价格不断下降,上下文不断增长。 我们不再优化,而是开始最大化。因为为什么要克制呢。 嗯,@markiewagner在这方面做得非常出色,她对这个主题的了解几乎为零。她的文章链接在下方。 但我想补充一点,ROT(代币回报)并不新鲜,它只是逐渐成为正确的事情,就像从一开始就应该这样做一样。 但我们人类很简单,喜欢赌场,喜欢一起自欺欺人,饲喂那头野兽。 你不会‘雇佣最大化’然后等上几年才发现:哦哦,无限招聘不等于成功,你也需要从招聘中获得回报。 在这个镀金时代,我们决定朝着更可持续的未来前景前进,以管理token的使用方式,这似乎是很自然的。 早在2022年,我们描述未来系统时,都对路由形成了强烈共识。 良好的路由能力是实现良好RUT的关键杠杆。虽然降低使用量最简单,但路由可能是最难的,因为它几乎有无限的可能结果。 我很高兴我们在这个问题上兜了一圈又回来了。对未来的实际构建行为和系统感到兴奋,这些系统不再关注最大化支出(仿佛我们刚中了彩票),而是最大化回报(仿佛我们刚刚重新发明了资本主义)
查看原文
查看缓存全文

缓存时间: 2026/06/29 08:32

ROT — 代币回报率。

我们早就知道迟早会走到这一步。

从一开始,“代币最大化“就是个愚蠢的主意。只是当所有人都在跟风狂欢时,你很难抗拒。

但对我们中的一些人来说,多年来一直很清楚:首先,我们会看到不计代价的疯狂增长。

因为没人想被落下。所以我们把所有东西/所有人/所有钱都砸到台面上。

一个按代币消耗量排名的排行榜,仿佛这直接等同于产出和价值。实际上它只是个花钱排行榜,仅此而已。

2022年,我们中有几个人公开讨论过:要多久我们才会开始真正重视代币优化?因为在早期,你不得不这样做——上下文太短,所以你在处处优化。然后突然之间,价格不断下降,上下文不断增长。

我们停止了优化,开始追求最大化。因为何必克制自己呢?

好吧,这也是 @markiewagner 出色工作所在——她对这个课题的见解无人能及。她的文章链接如下。

但我想补充一点:ROT,代币回报率,并不是新鲜事,它只是变成了正确的事情,正如它从一开始就应该如此。

但我们人类很简单,我们喜欢赌场,喜欢一起变得妄想,不断喂养这头野兽。

你不会搞“人员最大化“,然后等上几年才发现——哦,无止境招人并不等于成功,你得看招聘的回报率。

在这个镀金时代,我们自然而然会决定朝着更可持续的未来方向,去思考如何管理代币使用。

早在2022年,当我们描述未来的系统时,大家对路由机制有强烈的共识。

良好的路由能力是实现出色ROT的关键杠杆。而减少用量是最简单的,路由可能是最难的——因为它几乎有无限的可能结果。

我很高兴我们终于回到了正轨。期待未来真正构建行为和系统——不再像中了彩票一样追求最大化开支,而是像重新发明了资本主义一样追求最大化回报。

相似文章

Tokenmaxxing 已死,Tokenmaxxing 永存

Hacker News Top

对 Meta 等公司的“tokenmaxxing”现象的分析,认为高管们故意鼓励浪费 AI token 使用以推动工具采用,这与意外管理不善的看法相反。

Tokenmaxing已过时 - 节约型AI成新趋势

Reddit r/ArtificialInteligence

Tokenmaxing(无限AI令牌使用)的时代正在结束,因为企业面临高昂成本和生态破坏,取而代之的是tokenminimizing——注重效率并为任务选择合适的AI模型。