标签
Modal 宣布推出由 Modal Servers 驱动的新 Auto Endpoints 功能，详细介绍了使用 EnvoyProxy、Google Cloud Spanner 和 Cloudflare Pingora 的架构。
Modal推出了Auto Endpoints，这是一项自助服务，提供优化的、生产级的LLM推理，具备完整代码所有权、透明指标和自动缩放功能，构建于其无服务器GPU基础设施之上。
Modal 宣布推出 Auto Endpoints，这是一项可通过一键实现优化的开源 AI 推理的服务，旨在对抗专有模型和服务的趋势。
Modal 宣布推出 Auto Endpoints，这是一个用于拥有和部署 AI 推理的新功能。