structured-output

Cloudflare 宣布预览 Clairic——首款 System One 级抽取模型，托管于 Workers AI，模型标识为 @cf/cloudflare/clairic，并计划开源权重。Clairic 能够从非结构化输入中抽取、计算、估算和预测类型化数值，相比传统 LLM 具有更高准确率、更低延迟和更低成本。

TypeSafe 的 Jev 决策模型现已支持多模态输入，新增了 Box 问题类型和 assets 字段，可返回结构化、符合 Schema 的答案（choice、noul、score、box），并附带概率，可直接在代码中使用，无需再解析自由格式的 LLM JSON 输出。

## 以语音 AI 编排平台产品负责人的视角，看分类模型在电话语音机器人中的真实价值 作为语音 AI 编排平台的产品负责人，本文作者分析了 Jev 及同类分类模型在电话语音机器人场景中的实际用途，并梳理了 Laya、Clef、CMF、Nimble、Kev 等竞品构成的生态格局。 ### 核心观点 - **单一 LLM 无法独立支撑生产级对话**。在真实通话场景中，仅靠一个大语言模型难以稳定完成端到端的对话流程。 - **分类模型仍然不可或缺**。它们在**延迟**、**成本**和**结构化输出**三个维度上，依然具备 LLM 难以替代的优势： - **延迟更低**：分类任务的响应速度远快于生成式调用，对实时通话体验至关重要； - **成本更低**：轻量级模型的推理开销远小于大参数量 LLM； - **结构化输出更稳定**：分类结果天然就是离散标签，便于下游系统直接消费，减少解析失败与幻觉风险。 ### 结论 在生产环境中，**编排层 + 分类模型 + LLM** 的组合仍然是更务实的架构选择：把意图识别、路由分流、情绪判断等高频、低延迟、强结构化的任务交给分类模型，而将开放对话、复杂推理与内容生成交给 LLM。两者各司其职，才能同时兼顾体验、稳定性与成本。

TypeSafe 发布 Jev 1.14.0 模型更新，并通过“危险区域”实验性功能引入图像支持、新的 box 边界框类型以及更长的上下文长度，面向开发者与创意用户开放预览。

Cloudflare 发布了新的多模态模型 Clef-Omni，这是一个基于 Qwen3-Omni-30B-A3B-Instruct 后训练的 30B-A3B 混合专家多模态模型，可将状态和结构化问题模式一次性转换为概率决策，无需自由文本生成。

Microsoft 推出 Decision-1 决策打分模型，用于代理与工作流的路由、分类、验证和控制，单次推理即可输出各选项的校准概率。该模型基于 Qwen3.5-9B 后训练，据称中位延迟比 GPT-6 Sol 快约 35 倍，现已在 Microsoft Foundry 上线。

本文提出 FinVector-Market-4B，针对 Qwen3.5-4B 在 22,000 条语料上开展结构化金融任务的 LoRA（rank-16）适配研究。研究表明，在提示契约（prompt contract）一致的条件下，紧凑的领域适配能够带来超出单纯输出格式学习的显著任务收益。

Jev-Mem：一篇来自UT Dallas的论文提出用TypeSafe AI的Jev结构化输出模型替代LLM来处理智能体记忆系统中的大量小型决策（如记忆分类、关联判断、检索停止条件），仅在最终生成答案时才调用LLM，从而显著降低token开销。

Simon Willison 发布了 llm-openai-decisions 0.1a0，这是一个针对 OpenAI 全新 Decisions API 的 LLM 插件，支持 predicate/choice/score 三种问题类型，并可通过 gpt-6-luna 模型在文本之外进行图像输入。

Aleph Alpha 开源模型 Kolibri-1 在未经微调的情况下被展示玩 Breakout，采用针对动作概率优化的推理，将概率转化为具体操作，每次决策延迟低于 25 毫秒。

TypeLLM 是 Jev 的替代方案，用于大语言模型的结构化输出，支持条件字段——由前面的回答决定接下来生成哪些字段（例如，仅当是发票时才提取金额）——这一切都在一次 API 调用中通过 `when` 实现。

Cloudflare 在 Hugging Face 上发布了 Clef，一个开源（Apache 2.0）的 27B 多模态决策模型。它能将一个状态和一份带类型的问题 schema 转化为所有选项的概率，且只需一次前向传播即可完成。Clef 基于 Qwen3.8-27B 后训练而来，不支持自由文本生成，并且与 Jev 和 SystemOne 的 API 兼容，另有一个更小的 Clef-Flash 变体可供选择。

Cloudflare 发布了 Clef，这是一个开放权重的 27B 多模态决策模型。它以一个状态和一组带类型的结构化问题作为输入，通过一次前向传播直接输出每个选项的概率，无需自由文本生成，也无需解析输出。该模型在 Qwen3.8-27B 基础上进行后训练，已发布于 Hugging Face，并提供更小的 Clef-Flash 变体，同时兼容 Jev/SystemOne API。

Cloudflare 发布了 Clef-Flash，这是一个基于 Qwen3.5-9B 构建的 9B 多模态决策模型，能够在单次前向传播中将一个状态和一组带类型问题的 schema 转换为各选项的概率，无需自由文本生成或输出解析。

本文讨论了一个基准测试，其中编程代理将科学流程图重建为可编辑的PowerPoint幻灯片，认为可编辑制品通过揭示结构理解而非像素级复制，能更好地测试视觉理解。

本文强调了多数LLM速度与准确性对比忽略了结构化答案的可信度，并展示了JEV作为一款通过结构化接口确保决策输出一致性的工具。

Jev 能够实时生成游戏关卡，提供更快且更便宜的结构化输出，这可能对游戏开发产生重大影响。

TypeSafe AI 发布了 Jev，这是一个为软件系统中快速、低成本的AI决策而设计的语义决策引擎，避免了生成式LLMs在简单选择上的低效性。

自建AI代理工具集并不复杂，最小版本包括工具模式验证、结构化输出解析和失败重试，但其真正的价值在于可调试性，能通过日志定位问题所在。

本指南详细介绍了使用TRL库中的Group Relative Policy Optimization（GRPO）进行微调的方案，以提升LFM2.5-350M模型的结构化输出合规性，将IFStruct基准性能从22.6%提高到29.7%。