API 中的模型蒸馏

# API 中的模型蒸馏 来源：https://openai.com/index/api-model-distillation/ 我们推出了新的模型蒸馏功能，为开发者提供了一个集成工作流程，可以直接在 OpenAI 平台内管理整个蒸馏流程。这使开发者可以轻松使用 o1-preview 和 GPT-4o 等前沿模型的输出，来微调和提升 GPT-4o mini 等更具成本效益的模型的性能。 模型蒸馏涉及使用更强大模型的输出对较小的、成本效益更高的模型进行微调，使它们在特定任务上的表现能够达到高级模型的水平，但成本大幅降低。到目前为止，蒸馏一直是一个多步骤、容易出错的过程，需要开发者手动在多个不连接的工具之间进行协调，从生成数据集到微调模型再到测量性能改进。由于蒸馏本质上是迭代过程，开发者需要反复运行每一步，增加了工作量和复杂性。 我们的新模型蒸馏套件包括： - **Stored Completions**（在新窗口中打开）(http://platform.openai.com/docs/api-reference/chat/create#chat-create-store)：开发者现在可以通过我们的 API 自动捕获和存储由 GPT-4o 或 o1-preview 等模型生成的输入-输出对，从而轻松为蒸馏生成数据集。使用 Stored Completions，你可以使用生产数据轻松构建数据集来评估和微调模型。开发者可以查阅此集成指南（在新窗口中打开）(http://platform.openai.com/docs/guides/distillation)来了解如何选择存储完成结果。 - **Evals**（在新窗口中打开）(http://platform.openai.com/docs/guides/evals)（测试版）：开发者现在可以在我们的平台上创建和运行自定义评估，以测量模型在特定任务上的性能。Evals 提供了一种集成的方式来测量模型性能，不需要手动创建评估脚本和集成不同的日志工具。你可以使用 Stored Completions 中的数据或上传现有数据集来设置评估。Evals 也可以独立于微调使用，以定量评估模型对你的用例的性能。 - **Fine-tuning**（在新窗口中打开）(https://platform.openai.com/docs/guides/fine-tuning)：Stored Completions 和 Evals 与我们现有的微调功能完全集成。这意味着开发者可以在微调任务中使用使用 Stored Completions 创建的数据集，并使用 Evals 在微调后的模型上运行评估，所有这些都在我们的平台内完成。