如何获得这里看到的超快DFlash / MTP每秒令牌数？双3090

我正在尝试获取这里看到的那些使用新投机解码技术的高令牌每秒。硬件: 2x3090, AMD 9900X, 32GB RAM, Gigabyte B850 AI TOP。运行 Ubuntu 24.04, CUDA 13.0, NVIDIA-SMI 580.105.08 ---------------------------- 我正在运行一个特定的分支驱动程序版本，以便让3090通过P2P通信： nvidia-smi topo -p2p r GPU0 GPU1 GPU0 X OK GPU1 OK X Legend: X = Self OK = Status Ok CNS = Chipset not supported GNS = GPU not supported TNS = Topology not supported NS = Not supported U = Unknown ---------------------------- **对于DFlash：** 我按照这个README操作：https://github.com/Anbeeld/beellama.cpp/blob/main/docs/quickstart-qwen36-dflash.md 我构建了beellama（使用3090参数设置）并下载了推荐的spiritbuun草稿文件和unsloth q5_k_s。大约达到40t/s。 **对于MTP：** 我构建了最新的llama.cpp并尝试了Unsloth Qwen3.6 UD-Q4_K_XL和UD-Q8_K_XL的MTP版本。大约达到50t/s。根据我的记忆，基本版Qwen3.5-27B能达到40t/s，那么这里的2-3倍加速在哪呢。 ---------------------------- 以下是我的一些命令示例： 来自llama.cpp： build/bin/llama-server \ -m "$HOME/.cache/llama.cpp/Qwen3.6/unsloth/Qwen3.6-27B-UD-Q8_K_XL.gguf" \ -ngl 99 -c 32000 -fa on -np 1 \ --spec-type draft-mtp --spec-draft-n-max 6 --host 0.0.0.0 \ --port 8082 来自llama.cpp： build/bin/llama-server \ -m "$HOME/.cache/llama.cpp/Qwen3.6/unsloth/Qwen3.6-27B-UD-Q4_K_XL.gguf" \ -ngl 99 -c 245600 -fa on -np 1 \ --spec-type draft-mtp --spec-draft-n-max 6 --host 0.0.0.0 \ --cache-type-k q8_0 --cache-type-v q8_0 \ --flash-attn on \ --cache-ram 0 \ --jinja \ --no-mmap \ --reasoning off \ --port 8082 来自beellama： build/bin/llama-server \ -m "$HOME/.cache/llama.cpp/Qwen3.6/unsloth/Qwen3.6-27B-Q5_K_S.gguf" \ --spec-draft-model "$HOME/.cache/llama.cpp/Qwen3.6/unsloth/dflash-draft-3.6-q4_k_m.gguf" \ --spec-type dflash \ --spec-dflash-cross-ctx 2048 \ --host 0.0.0.0 \ --port 8082 \ -np 1 \ --kv-unified \ -ngl all \ --spec-draft-ngl all \ -b 2048 -ub 512 \ --ctx-size 245600 \ --cache-type-k turbo4 --cache-type-v turbo3_tcq \ --flash-attn on \ --cache-ram 0 \ --jinja \ --no-mmap --mlock \ --no-host --metrics \ --log-timestamps --log-prefix --log-colors off \ --reasoning on \ --chat-template-kwargs '{"preserve_thinking":true}' \ --temp 0.6 --top-k 20 --min-p 0.0