标签
Unsloth,这个高效的 LLM 微调库,现已支持 AMD GPU,扩展了硬件可访问性。
llama.cpp 是一个开源 C/C++ 库,用于在本地硬件上高效运行 LLM 推理,支持多种量化方法和多后端(CPU、GPU 等)。