digitalocean

DigitalOcean推出了LLM推理的提示缓存功能，自动缓存系统提示等重复上下文，无需更改代码即可将输入令牌成本降低多达80%，并附有关于盈亏平衡计算的详细教程。

一个模拟AWS、GCP和DigitalOcean环境的工具，用于开发和测试，无需承担费用。