Vidai Community 现已推出：一个 Rust 二进制文件，用于每次 LLM 调用的成本归属、护栏和多提供商路由

LLM 流量的成本控制并非未解决的问题。我见过的大多数团队已经自行搭建了某种方案——一个用于 SDK 转换的库、一个自定义的 OpenTelemetry 导出器、用于支出上限的 Python 中间件、对提示词的正则防护、以及一份每周二有人更新的提供商价格 JSON。它能工作。但没人主动选择这种技术栈。它是自然生长出来的。 **Vidai Community 现已推出。** 一个 Rust 二进制文件，在您自己的基础设施内一次性完成这七项工作。 * **一行集成。** 更改现有 OpenAI / Anthropic / Google GenAI SDK 的 `base_url`。保留您的代码、工具调用格式和流式语义。双向原生转换处理其余部分——使用 Anthropic SDK 调用，路由到 OpenAI，响应以 Anthropic 格式返回。 * **返回时的路径内成本归属。** 按用户、密钥、团队、应用和模型。严格的团队级预算，在超出限额时停止下一次调用，而不是发出关于已运行调用的警报。 * **免费的公开价格表服务。** 每个主要提供商的价格数据，按标准节奏刷新。无需再维护您自己的 JSON。 * **25 MB。1.95 毫秒中位开销。单节点验证达到 21,803 RPS。** 免费、无过期，自助访问 [vidai.uk/community](https://vidai.uk/community) · [文档](https://docs.vidai.uk/) 如果您启动它并发现了粗糙之处、不喜欢某个默认设置，或者希望某个标志有不同的行为：请在[快速入门仓库中提交问题](https://github.com/vidaiUK/vidai-quickstart/issues)或在此回复。每当有人在非我们自己的硬件上运行它，产品就会变得更完善，而这是我们无法从自身内部技术栈获得的反馈。