标签
这篇文章比较了Claude Fable 5.1和5，显示由于缓存读取享受75%的折扣，长时间的代理循环成本降低了7.5%，这在长期会话中主导了计费。
本文分析了来自Chutes的一年生产追踪数据，以研究LLM服务负载，揭示时间演化和用户-模型交互，以改进服务系统基准测试。