代理何时应为研究付费调用,而非仅使用免费网页搜索?
摘要
作者正在开发针对AI代理的付费调用工具,以提高研究准确性,例如公司研究和声明检查,并请求社区对定价和JSON响应格式提出意见。
我正在尝试弄清楚对于代理来说,哪些内容实际上需要付费墙。免费搜索在很多情况下对于“这家公司是什么?”已经足够好了。但代理仍然会幻觉联系信息,混淆同名的两家公司,并将随机博客视为证据。我在测试这个问题时构建了两个小工具:公司研究工具,返回结构化摘要、域名和后续行动;声明检查工具,接受一个句子并返回支持/不支持以及来源。两者都是付费调用,因此代理无需API密钥。我不知道的是:你会让代理为结构化的公司上下文支付0.75美元,还是只为已验证的联系信息付费?对于声明检查,快速的0.10美元“支持/不支持”有用吗,还是代理只想要昂贵的深度检查?你实际上需要JSON中的哪些字段?我正努力不返回垃圾数据。如果这类工具有用,请告诉我响应应该是什么样子。我可以将端点放在评论中。
相似文章
AI搜索的定价简直就是个骗局...
作者创建了一个开源工具,为AI代理提供无限次免费网络搜索,批评现有AI搜索提供商定价过高。该工具可在 laurel.dev 获取。
向AI代理销售API服务
一位初创公司创始人描述了一个平台,使AI代理能够按次付费使用API服务,摆脱订阅模式。他们正在寻求对这个概念的反馈。
你实际为哪些AI智能体付费,原因是什么?
一位初创公司创始人向社区询问他们为哪些AI智能体付费及原因,探寻超越炒作的真实世界用例。
当我最终对智能体的工具调用进行监控时,成本分解让我感到惊讶。几点经验教训。
作者分享了监控AI智能体工具调用的经验教训,揭示了像web_search这样的工具可能占支出的约50%,并强调了追踪p95延迟以及按工作流或客户归因成本的重要性,以避免意外。
我测量了13个搜索API在智能体内运行的实际成本。定价页只是账单中较小的一半
一位开发者在AI智能体内对13种搜索API配置进行了基准测试,发现读取负载的隐藏token成本可能占据总账单的大部分,而且不同提供商之间的差异高达67倍。