标签
Manning 出版了 Guglielmo Iozzia 所著的《面向特定领域的小型语言模型:本地部署的高效AI》,内容涵盖如何构建、微调、评估和部署针对特定行业和工作流定制的紧凑型 AI 模型,以实现更低的延迟、更低的成本和更好的数据控制。
一位独立开发者开源了 Peacebell,一个从零开始训练的领域专用小型语言模型(291M 和 148M 参数版本),专注于第二次世界大战相关内容,使用自建训练流水线、基于 Wikipedia 整理的合成数据进行训练,同时发布了配套的私有问答式二战基准测试、在线 Demo 以及一个定制化的 vLLM 分支。
本文介绍了Chinese-Jev,一个旨在提高中文任务决策准确性和效率的系统一模型,通过领域特定的微调和一个新的基准测试CJ-Bench进行评估。
CRISS 是一种检索增强型AI聊天机器人,旨在协助肿瘤登记员解读复杂的编码与分期指南,已在培训场景中评估其准确性与实用性。
本文描述了一个项目,通过使用持续预训练(CPT)和RAG进行领域特定知识训练本地LLM的实验,并包含全面的评估和发现。
本文将Minimum Risk Training应用于小型语言模型的停电报告生成,通过优化序列级评估指标,将准确率从16.20%提高到68.95%。
LEGO是一个双模块框架,融合了Expert GraphRAG和Expert Chain-of-Thought,旨在增强大型语言模型中的复杂法律推理,并在LawExamQA_Civil等基准测试中实现卓越性能。
一位资深系统集成专家强调,即便是智能工具也必须针对具体工作量身定制,并主张在AI开发中采用领域专用的工具框架。
Data Scout 是一种定向网络爬取方法,它使用 LLM 将主题扩展为查询并筛选内容,与过滤大型存档相比,显著提高了创建领域特定预训练语料库的效率。
本研究提出了一种使用领域特定大型语言模型的综合框架,用于BIM中设计缺陷的智能识别与修复,实现了85%的准确率和94%的合理修复建议,并具有有效的幻觉控制。
Thomson Reuters 已推出其首款专有大型语言模型,名为 Thomson,该模型基于开源基础模型和专有内容的混合训练,以为专业人士提供高效、领域特定的AI。
介绍了ContractScrub,一个用于评估大语言模型在法律合同清理任务中表现的基准,揭示当前前沿模型在此领域特定挑战上表现不佳。
文章强调了在企业应用中,AI模型与最终用户工作流程之间创造的巨大价值,突出了领域特定实施、评估和定价模型的重要性。
The paper presents LLM Agents Factory, a retrieval-based framework that constructs domain-specific LLM agents from a base of over 20K predefined agent profiles, offering a cost-efficient and controllable alternative to dynamic agent generation. Experiments show accuracy comparable to AutoGen with a 120B backbone at substantially lower inference cost.
一项针对10个前沿大语言模型、涵盖62个问题的大规模人类评估发现,所有模型都表现出响应漂移,其中大多数模型收敛到78-81%的偏差上限,而两个模型实现了较低的偏差。漂移程度因领域和问题而异,自动指标几乎无法解释人类判断,这凸显了人类评估的必要性。
本文首次严格研究了LLM水印方案如何影响医学性能,在多个LLM和VLM上评估了五种水印在临床推理任务中的效果。作者发现,水印可能导致医学文本质量下降,包括幻觉和词汇损坏,而这些在通用领域的基准测试中被掩盖。
据称,Damn muse 1.1 在医疗和法律用例上优于 fable 5。
本文介绍了Pre-Flight,这是一个包含300道多选题的开源基准测试,旨在评估大型语言模型在航空运行知识方面的表现,覆盖国际法规和地面操作。结果显示,即使是2026年最强模型也只能达到82.7%的准确率,远低于约95%的专家参考水平,突显了持续存在的可靠性差距。