Large Discovery Models: 基于实证的模型驱动开放式搜索

Hugging Face Daily Papers 论文

摘要

本文介绍了 Large Discovery Model (LDM),这是一种循环架构,将生成模型与贝叶斯非参数替代模型耦合,以指导在分子和蛋白质等科学领域的不确定性感知搜索,相比现有方法实现了显著的性能提升。

科学发现通常涉及在广阔、结构化和开放的假设空间(如分子、蛋白质序列和计算机程序)中优化评估成本高昂的目标。生成模型如大型语言模型(LLMs)为此类空间提供了富有表达力的先验,但它们的似然度和自我评估是不可靠的目标代理和校准的认识不确定性代理,特别是对于观察数据分布之外的新颖候选者。我们介绍了 Large Discovery Model (LDM),这是一种基于实证的循环架构,将生成模型与贝叶斯非参数奖励替代模型耦合。生成模型提出并细化候选设计,而替代模型预测其性能并量化不确定性,产生一个不确定性感知值,指导候选生成、细化和选择。随着每个新的实验观察到来,发现记忆和替代模型会持续更新。我们在三个场景中评估了 LDM,涵盖不同的设计模式和目标,包括神经网络训练、抗体设计和分子优化。与仅使用 LLM 的反思或这些领域的传统统计搜索相比,LDM 在验证 BPB 上实现了 2.4 倍的更大降低,在结合能上实现了 18.2% 的相对降低,在分子多目标性能上实现了超过 60% 的相对增益。这些结果表明,LDM 可以作为通用的发现引擎,用于在开放假设空间中进行有效搜索。
查看原文
查看缓存全文

缓存时间: 2026/08/18 11:52

论文页面 - 大型发现模型:基于实证的模型驱动开放式搜索

来源:https://huggingface.co/papers/2608.15669 作者:

,

,

,

,

,

,

,

,

,

,

摘要

循环式大型发现模型通过耦合生成式提议与贝叶斯非参数奖励代理,引导在分子、蛋白质和程序中进行不确定性感知的搜索。

科学发现通常涉及在庞大、结构化且开放的假设空间(如分子、蛋白质序列和计算机程序)中优化计算成本高昂的目标。生成模型(https://huggingface.co/papers?q=Generative%20model)(如大型语言模型 (LLMs))为此类空间提供了表达性强的先验分布,但其似然度和自我评估在作为目标和校准认知不确定性的可靠代理方面存在不足,尤其是在面对超出观测数据分布的新候选时。我们提出大型发现模型(https://huggingface.co/papers?q=Large%20Discovery%20Model)((LDM)),这是一种基于实证的循环架构(https://huggingface.co/papers?q=recurrent%20architecture),它将**生成模型(https://huggingface.co/papers?q=generative%20model)与贝叶斯非参数奖励代理(https://huggingface.co/papers?q=Bayesian%20non-parametric%20reward%20surrogate)**模型耦合。生成模型(https://huggingface.co/papers?q=generative%20model)负责提议并精炼候选设计,而代理模型则预测其性能并量化不确定性,从而产生一个不确定性感知价值(https://huggingface.co/papers?q=uncertainty-aware%20value),用于指导候选的生成、精炼和选择。**发现记忆(https://huggingface.co/papers?q=discovery%20memory)**和代理模型会随着每一个新的实验观测结果的到来而持续更新。我们在涵盖不同设计模态和目标的三个场景中评估了 LDM,包括神经网络训练、抗体设计(https://huggingface.co/papers?q=antibody%20design)和分子优化(https://huggingface.co/papers?q=molecular%20optimisation)。与仅使用 LLM 反思或在这些领域进行传统统计搜索相比,LDM 在验证集 BPB 上实现了 2.4 倍的更大降幅,在结合能上实现了 18.2% 的相对降低,并在分子多目标性能上获得了超过 60% 的相对增益。这些结果表明,LDM 可作为通用发现引擎,在开放式假设空间中进行高效搜索。

查看 arXiv 页面 (https://arxiv.org/abs/2608.15669)查看 PDF (https://arxiv.org/pdf/2608.15669)项目页面 (https://largediscovery.net/)GitHub5 (https://github.com/yzailab/Large-Discovery-Models)添加到收藏集 (https://huggingface.co/login?next=%2Fpapers%2F2608.15669)

在你的代理中获取此论文:

hf papers read 2608\.15669

还没有最新的 CLI?curl \-LsSf https://hf\.co/cli/install\.sh \| bash

引用此论文的模型 0

没有模型链接此论文

在模型的 README.md 中引用 arxiv.org/abs/2608.15669 以从此页面链接它。

引用此论文的数据集 0

没有数据集链接此论文

在数据集的 README.md 中引用 arxiv.org/abs/2608.15669 以从此页面链接它。

引用此论文的空间 0

没有空间链接此论文

在空间的 README.md 中引用 arxiv.org/abs/2608.15669 以从此页面链接它。

包含此论文的收藏集 0

没有收藏集包含此论文

将此论文添加到一个收藏集 (https://huggingface.co/new-collection) 以从此页面链接它。

相似文章

Discovery Foundation Models: 面向开放式发现智能

Hugging Face Daily Papers

Discovery Foundation Models 被提议作为通用系统,通过迭代问题表述、假设测试和基于证据的修订,在干湿实验室环境中实现开放式科学发现。本文引入了一个具有问题发现和持续改进等能力的框架,并通过Zetema和GALILEO等系统进行实例化。

大语言模型在未知环境中协调的词汇发现

arXiv cs.AI

提出神经符号词汇发现(NSLD)框架,其中基于LLM的智能体在未知环境中自主为未知视觉指代物开发共享词汇,从而为自主探索任务的部署前规划提供支持。

使用大型语言模型驱动的代理系统自动发现生物系统的常微分方程

arXiv cs.AI

本文介绍了MEDA,一个由LLM和符号回归驱动的代理框架,用于自动发现生物动态系统的常微分方程(ODE)模型。它检索背景知识,提出候选ODE,并在典型模型检索、外推和开放式发现任务中评估这些模型,展示了强大的结构恢复能力和生物学上合理的模型。

DeepSeek LLM:以长期主义扩展开源语言模型

Papers with Code Trending

DeepSeek LLM是一个开源语言模型项目,它开发了一个大规模数据集,并采用SFT和DPO,在各种基准测试和开放式评估中实现了超越LLaMA-2 70B和GPT-3.5的性能。