SciOrch:学习编排专家级大语言模型以解决前沿多模态科学推理任务
摘要
SciOrch 提出了一种基于 MCTS 训练的 8B 视觉语言模型,用于协调多个专家级大语言模型进行多模态科学推理,在降低 API 成本的同时实现了更优性能。
查看缓存全文
缓存时间: 2026/06/18 07:55
论文页面 - SciOrch:学习编排专家LLM以解决前沿多模态科学推理任务
来源:https://huggingface.co/papers/2606.15872 我们很高兴分享我们的最新工作:SciOrch:学习编排专家LLM以解决前沿多模态科学推理🧬
科学推理常常需要阅读复杂的图表、整合不同领域的知识,并逐步解决问题。不同的LLM在这一过程中各有所长——因此,与其依赖单一模型,我们提出一个问题:一个小模型能否学会协调多个专家LLM?
为了回答这个问题,我们提出了SciOrch🎼,一个8B视觉语言模型,它学习分解科学问题、调用合适的专家模型并综合它们的答案。
由于调用商业模型成本高昂,我们使用基于MCTS的高效流水线 🌳 来训练SciOrch。
我们的结果表明,SciOrch在降低API成本的同时,超越了强大的单模型和多智能体基线。我们希望这是迈向更高效、更协作的科学推理AI系统的一步 🚀
相似文章
SciR:用于LLMs科学推理的可控基准
SciR是一种新的可控基准,用于评估LLMs在科学推理方面的能力,包括演绎、归纳和因果溯因,并通过参数控制提取难度和推理难度。测试表明,两个难度轴都会降低所有模型的性能,推理模型(如DeepSeek-R1)在推理方面优于指令模型。
基于本体、由推理器验证的基准:用于评估科学人工智能中大语言模型的推理能力
论文提出了一种流水线,可自动生成基于本体且经推理器验证的多选题基准,用于评估大语言模型在科学人工智能中的逻辑推理能力;该方法在三个本体(Pizza、PMDco、DOID)和六个大语言模型上进行了验证。
Sci-MMR:多模态代理中多步骤证据科学推理的基准测试
Sci-MMR 是一个用于评估多模态代理中多步骤证据基础科学推理的基准,揭示了答案准确率超过证据恢复率超过20%的差距。
当大型语言模型发展语言:用于高效多智能体推理的符号通信
本文提出通信语言符号路由(CLSR),多个LLM智能体自主发明并演化紧凑的符号语言进行推理,相比思维链(CoT)实现3-6倍的令牌减少,同时保持准确性。
学习如何让大语言模型进行推理
OpenAI 发布了一篇文章,通过密码破译示例探索大语言模型的推理技术,展示了语言模型的逐步问题求解和模式识别能力。