api-feature

OpenAI 推出提示词缓存功能，这是一项自动特性，通过在 GPT-4o、GPT-4o mini、o1-preview 和 o1-mini 模型上重用最近缓存的输入令牌，可将 API 成本降低 50% 并改善延迟。该功能会自动应用于超过 1,024 个令牌的提示词，无需开发者进行集成更改。

OpenAI 推出了 GPT-4o 和 GPT-4o mini 的微调功能，允许开发者使用自己的数据集以更低成本自定义模型。该功能包括免费的训练代币（GPT-4o 每天 1M，GPT-4o mini 每天 2M，有效期至 9 月 23 日），面向所有付费层级的开发者提供。

OpenAI 宣布为 GPT-3 和 Codex 推出新的编辑和插入功能，支持文件中间位置的代码补全和文本编辑。插入功能正在 GitHub Copilot 中试点，并已通过补全 API 向公众开放测试版。