AI用量限制就像一个黑箱

我们已经知道AI成本高昂，远比大多数人过去为软件订阅甚至一次性软件购买所支付的费用要高。在某种程度上这可以理解，因为我们不断被告知LLM提供商正在亏损。我甚至不讨论API成本——对于个人用户来说，尤其是使用美国提供商时，这些费用已经变得几乎难以负担。这一切还算可以接受，至少我们能承受。但我不理解的是，代币用量方面完全缺乏透明度。当你打开Claude的用量页面，首先看到的是升级到更高级别计划的提示。没有有意义的图表，没有详细的历史记录，没有显示什么消耗了你的代币，也没有简便的方法来优化用量。更别提那令人沮丧的每小时限制了。Cursor也好不到哪里去。你碰到限制，弹出窗口告诉你已达到上限，然后打开用量页面，只看到一个非常粗略的月度总结。这些公司能不能让代币用量对用户更透明、更容易理解？当然可以。但似乎他们并不想这样做。商业模式的一部分似乎就是让定价和消耗保持模糊、难以追踪。你永远无法确切知道你的代币用在了哪里。高用量是因为你的提示、他们的内部编排、隐藏上下文、代理工作流，还是其他原因？完全没有可见性。结果是，我们被期望信任并支付一项无法适当审计、衡量甚至完全理解的服务。当AI成为越来越多人的必备工具时，这种处境令人尴尬。