标签
研究人员使用QLoRA与GraphRAG对BioMistral-7B进行微调，构建面向南非结核病诊疗的LLM，在上下文对齐方面优于基座模型。
实验性 18B 参数模型：将两个 Qwen-3.5-9B 微调模型堆叠后，用 1000 步 QLoRA“缝合”层边界；生成的 GGUF 在 44 项测试集上超越 Qwen 3.6-35B MoE，却只占 9.2 GB 显存。