cpu-gpu-heterogeneous

KTransformers 是一个灵活的研究框架，专注于前沿的大语言模型推理与微调，利用CPU-GPU异构计算，并支持多种最新模型。