ai-experimentation

作者在 VLLM 上对 27B 模型进行了实验，通过混合 low 和 xhigh 模式的提示，创建了一个“high”推理模式，从而获得了更高效、更愉快的推理输出。