domain-specific-llm

FinRAG-12B 是一款针对银行业检索增强生成（RAG）优化的 120 亿参数大语言模型，具备统一训练框架，可提升回答质量、引用依据的可靠性以及校准后的拒绝回答能力。该模型在引用依据方面优于 GPT-4.1，并已部署于 40 多家金融机构，在成本和延迟方面具有显著优势。

研究人员使用QLoRA与GraphRAG对BioMistral-7B进行微调，构建面向南非结核病诊疗的LLM，在上下文对齐方面优于基座模型。