标签
一篇观点文章,主张 AI 智能体不应持有提供商的原始 API 密钥,而应获得预付费、有上限的凭证,具备每小时、每日、每个工具的限额、工具白名单、价格检查以及每次调用的收据。作者以 Agentik 的配置为参考,并询问读者更倾向于原始密钥加监控、硬性限额,还是介于两者之间的方案。
讨论是否应该给 AI 智能体分配独立的支出预算,例如为调用付费专业 API 设置每月支出上限,而不是在代码中写死对特定供应商的访问权限。向从业者征询实际经验以及可能出现的故障模式。
一个被入侵的云账户导致了8万美元的AI账单,凸显了AI提供商在实施硬性支出上限和防止恶意黑客及不受控AI使用方面的关键缺陷。
文章描述了一个面向AI代理的能力层,使其能够发现、支付并验证外部服务,并带有严格的控制措施,如支出限额、持久收据和重放保护,应用于欧盟合规工具。
探讨了给AI代理一个小额、受限制的预算(例如200美元)用于常规业务支出(如软件试用)的想法,并将其比作给初级员工一张有限额的公司卡。
datasette-llm-limits 0.1a0 是 Datasette 的一个新插件,允许为用户或全局配置 LLM 使用消费限额,与 datasette-llm 和 datasette-llm-accountant 配合使用。