@RampLabs: AI支出以令牌、模型调用次数和美元衡量。然而,这些字段都没有描述实际进行的工作……

X AI KOLs Following 工具

摘要

Ramp开发了一个语义层,将AI代理支出归因于目标和结果,从而从监控支出转向理解AI投资回报率。

AI支出以令牌、模型调用次数和美元衡量。然而,这些字段都没有描述实际进行的工作。 在Ramp,我们构建了一个语义层,将代理支出归因于目标和结果。这使我们能够从监控AI支出转向理解AI投资回报率。 以下是我们如何构建它的
查看原文
查看缓存全文

缓存时间: 2026/09/02 11:57

AI 支出以 token 数、模型调用次数和美元金额来衡量。然而,这些指标均未描述实际完成的工作内容。

在 Ramp,我们构建了一个语义层,将代理支出归因到具体目标和结果。这使我们得以从监控 AI 支出转向理解 AI 投资回报率(ROI)。

以下是我们构建该系统的方法:

我们将代理追踪数据拆分为独立的工作单元。17% 的运行实例包含多个工作项目,却占用了 58% 的模型资源消耗。同时,30% 的多关联会话运行实例实际上仅对应一个工作项目。

我们并未采用固定分类体系,而是让标签从生产环境的代理追踪数据中自然涌现。由于分类体系是通过学习形成的,它能够随着使用场景的演进持续优化。

最终形成了每个工作项目的目标、结果和成本记录。这使我们能够衡量所部署代理的投资回报率,并实现智能化的资源分配。

完整工程文档请见:

相似文章