@akshay_pachaar: LLMs 与 Jev，清晰解释！简而言之，关键区别不在于 Jev 生成得更快。Jev 根本不生成文本 …

LLMs 与 Jev，清晰解释！ 简而言之 关键区别不在于 Jev 生成得更快。 Jev 根本不生成文本。 传统 LLM 接收上下文并逐 token 生成答案。即使输出是一个小的 JSON 对象，每个 token 都依赖于之前生成的 token。 Jev 接收相同的上下文，但直接评估预定义决策。当这些决策相互独立时，它可以并行评估所有决策。 考虑一个处理部署失败的代理。它可能需要确定： → 该事件是否紧急 → 应由哪个团队处理 → 提出的命令是否有风险 → 任务是否已完成 LLM 顺序生成包含这些答案的响应。然后应用程序解析并验证它。 使用 Jev，你可以预先定义问题和预期的答案类型。它一起评估这些问题，并返回带有概率的类型化答案。 Jev 支持三种决策原语： 1. **Choice** 从已知选项中选择，例如 engineering、billing 或 sales。 2. **Score** 将输入置于有序尺度上，例如 low、medium 或 high risk。 3. **Noul** 评估是/否条件并返回其为真的概率。 概率与所选答案同样重要。 如果 engineering 获得 91% 的概率，billing 获得 9%，自动路由可能是合理的。如果概率是 52% 和 48%，系统可以升级、收集更多上下文或调用更强大的模型。 这使得控制保持在普通软件内部。 代码拥有阈值和后果。Jev 提供语义判断，而普通 `if` 语句无法从非结构化文本中推导出这种判断。 当可能的答案已知、决策依赖于含义，并且一个细心的人可以快速判断输入时，它工作得最好。 它不是为写作、摘要、代码生成、算术或需要多个依赖推理步骤的决策而设计的。独立问题可以并行运行，但依赖早期结果的决策必须保持顺序。 Jev 还不能返回声明模式之外的选项，但它仍然可能选择错误的有效选项。类型安全防止格式错误的输出，而不是不正确的判断。 清晰的思维模型如下： 当答案空间开放时，LLMs 生成新语言。 当答案空间有界时，Jev 评估已知路径。 我撰写了完整解析，解释 Jev 及其适用场景。 文章引用如下。