perplexity-ai/pplx-decider-v1-27b · Hugging Face

来源：https://huggingface.co/perplexity-ai/pplx-decider-v1-27b

pplx-decider-v1-27b 是基于 Qwen3.8-27B 微调的决策模型。

11 项基准测试的准确率。pplx-decider-v1-27b 的结果通过 Perplexity API 测量。

加粗 表示每行中的最高分数。

https://huggingface.co/perplexity-ai/pplx-decider-v1-27b#usage 使用方法

需要 Python 3.12+ 以及一块 CUDA GPU，显存需能容纳约 49 GiB 的权重及工作内存。

使用 uv 下载并运行推理示例：

uvx --from huggingface-hub hf download perplexity-ai/pplx-decider-v1-27b inference.py --local-dir .
uv run inference.py

uv 会安装依赖；脚本从 Hugging Face 下载模型。在已安装这些依赖的环境中，可直接使用 Decider：

from inference import Decider

model = Decider.from_pretrained("perplexity-ai/pplx-decider-v1-27b")
result = model.predict(
    "My Stripe integration keeps failing. Please help ASAP.",
    {
        "type": "choice",
        "instructions": "Which team should handle this request?",
        "criteria": {
            "billing": "Charges and refunds",
            "technical_support": "Integration errors",
            "sales": "Questions about buying a product",
        },
    },
)
print(result)  # Selected choice and calibrated probabilities.

使用 \{"type": "noul", "instructions": "Does this message express urgency?"\} 可以获得是/否的概率。对于图片，向 predict 传入 images=\["screenshot\.png"\]，或运行：

uv run inference.py --image screenshot.png