标签
作者分享了关于 JSON Schema 结构化输出在不同 AI 提供商（如 OpenAI、Gemini 和 Anthropic）之间缺乏可移植性的研究结果，强调了约束执行方面的一致性缺失，并为稳健的集成提供了实用建议。
本文识别了在策略蒸馏中结合奖励外推的一个安全阈值，超过该阈值后，结构化输出任务会丢失格式保持能力。实证验证表明，在该阈值以下运行，1.7B学生模型能够在Amazon Fashion任务上以五分之一的参数量匹配8B SFT基线。
OpenAI 向 API 发布 o1 模型，具备生产就绪的功能，包括函数调用、结构化输出、视觉能力，以及比 o1-preview 低 60% 的延迟。其他开发者工具包括 Realtime API 改进、偏好微调，以及新的 Go 和 Java SDK。
OpenAI 在其 API 中引入了结构化输出功能，使开发者能够可靠地从语言模型获取符合 JSON Schema 的输出，改进与下游系统的集成并减少解析错误。