cloud-deployment

本文全面介绍了云端部署 Transformer 推理的完整技术栈，涵盖应用场景、工作负载定义、模型、推理引擎、硬件、可观测性及性能优化，并展望了未来趋势。

OpenAI 的前沿模型和 Codex 现已正式在 AWS 上可用，使企业能够将其集成到现有 AWS 工作流中，从而加速 AI 部署。

Miles Brundage指出，他费尽周折才在云平台上部署美国开放权重模型，而像Kimi和DeepSeek这样的中国模型却即插即用。

阿里ATA团队将Claude Code从本地CLI工具部署到云端，通过魔改SDK实现HTTP流式调用，并利用沙箱实现多用户隔离。

Grok CLI 现已支持插件和技能，Vercel 插件可实现无缝云部署，正如通过生成并托管一个创意编程网站所示。