利用智能AI在科学版图中定位手稿
摘要
本文介绍PASS,一个智能AI系统,它通过分析文献上下文来预测手稿的发表场所,达到高准确率并优于基线模型,已作为公共平台发布供研究人员使用。
arXiv:2609.13760v1 公告类型:新
摘要:发表研究手稿是科学生活中的常规但耗时费力的部分:耗时、压力大,且结果往往不确定。基于大型语言模型(LLM)的智能AI在一系列科学任务中展现出前景,在此我们探讨智能AI是否能帮助研究人员导航出版过程本身,通过可靠地从手稿内容和文献上下文中推断其最终发表场所。我们引入PASS(Publication-oriented Agentic Scientific System),一个智能系统,它在特定领域的文献上下文中理解手稿并预测最佳匹配的发表场所。PASS通过重建局部科学邻域、追踪主题轨迹并推理特定领域的期刊空间,将每份手稿定位在其周围的文献版图中。在泄漏审计基准上对超过2000份预印本进行评估,涉及16个生物医学领域,PASS的Top-1准确率为50.3%,Top-5准确率为86.1%,优于最先进的LLM基线模型和已建立的期刊选择工具。PASS生成的质量评分,如影响潜力和新颖性,与独立发表结果的衡量标准一致。我们还发现设计的文献检索模块是性能最强的贡献者,特别是在将手稿与附近工作相对定位时,并且PASS仅从摘要即可保持接近完整的性能,而LLM基线模型需要完整的手稿文本。独立的人类评估发现研究人员与PASS的手稿理解和推荐理由高度一致。PASS已作为公共平台(https://ratemypaper.ai/)发布,供广大研究人员访问。
查看缓存全文
缓存时间: 2026/09/15 09:01
# 利用智能体AI在科学图谱中定位手稿 来源:https://arxiv.org/html/2609.13760 作者:曾子辰|单位:宾夕法尼亚大学统计与数据科学系;李炳萱|单位:伊利诺伊大学厄巴纳-香槟分校计算机科学系;孙泉|单位:费城儿童医院计算与基因组医学中心;|单位:费城儿童医院生物医学与健康信息学系;|单位:宾夕法尼亚大学病理学与检验医学系;张一彦|单位:北卡罗来纳大学教堂山分校遗传学系;谭柏俊|单位:斯坦福大学生物医学数据科学系;林锦杰|单位:耶鲁大学管理学院;李大东|单位:北卡罗来纳大学教堂山分校生物统计学系;李云|单位:北卡罗来纳大学教堂山分校遗传学系;|单位:北卡罗来纳大学教堂山分校生物统计学系;赵秉鑫††通讯作者:[email protected]|单位:宾夕法尼亚大学统计与数据科学系;|单位:宾夕法尼亚大学医学院。 ###### 摘要 发表研究手稿是科学生涯中常规却艰巨的任务:耗时、压力大且结果往往充满不确定性。近年来基于大语言模型的智能体AI在多项科学任务中展现出潜力,本文探讨智能体AI能否通过可靠推断手稿内容及其文献背景,帮助研究者导航出版流程并最终确定发表场所。我们提出面向出版的智能体科学系统,该智能体系统能在特定领域文献背景下理解手稿,并预测最佳匹配的发表场所。通过重构局部科学邻域、追踪主题轨迹、分析领域特定的期刊空间,该系统将每篇手稿置于其文献图谱中。该系统在包含16个生物医学领域逾2000篇预印本的防泄漏基准测试中,实现了50.3%的Top-1准确率和86.1%的Top-5准确率,超越了最先进的大语言模型基线和现有选刊工具。其生成的质量评分(如影响潜力、创新性)与出版结果的独立评估指标高度吻合。消融实验表明文献检索模块是性能提升的关键因素,尤其在将手稿与相近工作相对定位时作用显著。值得注意的是,仅基于摘要时系统仍保持近乎完整的性能,而大语言模型基线则需要完整手稿文本。独立的人类评估显示研究者对系统的手稿理解和推荐理由具有高度认可。该系统已作为公开平台发布。 ## 1引言 发表科学手稿是研究者科学生涯的重要环节。除了开展研究和撰写论文,研究者还需判断成果归属、如何定位以及是否符合特定期刊的期望。合适的期刊选择有助于将手稿呈现给能最公正评价其价值、局限与贡献的编辑和审稿人。这些判断需要研究者解读期刊范围、受众、创新要求、编辑优先级及相关文献,过程耗时且充满不确定性,即便对经验丰富的作者而言也可能造成压力。手稿与期刊的不匹配可能导致出版延迟、修改周期延长和重投负担加剧,从而偏离真正的科研工作。在生物医学领域,随着手稿数量激增和出版生态系统的日趋多元、异质与缓慢,这一挑战尤为突出。 与此同时,人工智能正重塑科学研究的开展方式。基于大语言模型的系统已能综合科学文献、生成假设、编写代码、执行数据分析、起草手稿并提供审稿反馈,这些进展推动了端到端自动化科研工作流的愿景。然而现有研究多聚焦于科研中间成果(如假设生成、研究规划或数据分析),而研究者真正需要的后期阶段AI助手——帮助确定手稿最终投稿和发表场所——尚未得到充分探索。这引出了本文的核心问题:在科学研究任务中表现卓越的智能体AI,能否通过分析手稿的科学内容及其在相关文献中的位置,可靠地支持研究者进行期刊选择? 该任务超越简单的主题匹配。期刊录用取决于科学质量、贡献类型、证据强度、范围与受众类型等多重因素的交互作用,且同一篇手稿可能适配于专业领域、知名度及对创新性要求各异的多个期刊。这使期刊推荐区别于近期多数AI辅助出版研究——后者主要聚焦于计算机科学会议的录用决策及其同行评审过程,通常被构建为单一会议内的二分类问题。相比之下,期刊出版涉及从众多不同范围和标准的期刊中选择,且结果进一步受编辑决策、审稿意见和修改流程影响,增加了额外不确定性。因此,期刊推荐并非简单的分类问题,需同时理解手稿贡献及其与不同期刊环境的契合度。 尽管存在这些复杂性,研究者和编辑在实践中仍依赖手稿及文献中的可识别信号评估期刊适配性,这表明该过程虽充满不确定性,但结构足够清晰以便建模。现有选刊工具为此问题提供了重要基础。例如JANE通过比对目标论文的标题或摘要与出版记录来推荐相似期刊;Pubmender利用词嵌入和有监督卷积神经网络将摘要分类至PubMed索引期刊。这些方法虽实用,但开发于现代大语言模型和智能体工作流出现之前,主要将期刊推荐视为短文本相似度或有监督摘要分类问题,未能受益于最新技术进展。 本文提出面向出版的智能体科学系统,这是一个用于生物医学手稿理解、评估与期刊推荐的智能体框架。其核心思想是在推荐前将每篇手稿置于特定领域的文献图谱中:通过密切相关的研究建立即时科学背景,借助综述和基准论文捕捉宏观领域趋势,进而分析由此生成的领域特定期刊空间。系统返回按优先级排序的期刊推荐、基于证据的理由说明,以及手稿层面的创新性、影响力、概念严谨性和写作质量评估。 我们在一个经时间控制和防泄漏审计的基准集上评估了该系统,该基准包含2184篇近期bioRxiv和medRxiv预印本及其在16个生物医学领域的同行评审出版记录。系统以50.3%的Top-1准确率和86.1%的Top-5准确率匹配到最终出版期刊,大幅超越最先进的大语言模型基线和现有选刊工具。此外,系统生成的手稿质量评估与出版结果的独立指标显著相关,表明其捕获了超越主题相似性的科学信号。消融分析显示文献检索模块对性能贡献最大,尤其在定位发现性和方法论研究与相邻工作的关系时作用关键。值得注意的是,预测能力主要集中在定义手稿贡献和领域定位的叙事部分(摘要、引言和讨论)。仅基于摘要时系统仍保持近乎完整的准确率,而大语言模型基线则严重依赖完整手稿文本。这表明结构化的文献驱动工作流能高效提取与出版相关的信号,而这些信号恰恰存在于研究者最直接阐述问题、贡献和重要性的章节。 我们进一步推出面向公众的平台,研究者可上传手稿并获取优先级排序的期刊推荐、基于证据的理由说明及支持文献证据,旨在辅助而非替代人类判断。由六位博士级审稿人对44份报告进行的独立人类评估显示:88.0%的评估认为推荐期刊等级符合预期,研究者对系统88.7%的手稿层面评估表示认可,证实平台的理解与推理过程与研究者的专业判断广泛一致。 综上所述,这些结果将期刊录用确立为面向出版的手稿理解的可度量终点,证明智能体AI能帮助研究者在科学图谱中定位手稿。 ## 2结果 ### 2.1基于文献的期刊推荐智能体框架 为手稿确定合适的发表场所,需回答三个相互关联的问题:论文贡献什么?应如何结合文献评价该贡献?哪些期刊最契合其范围、重要性和支撑证据?该系统通过三个协同工作的智能体解决这些问题: - **手稿理解智能体**:提取论文的核心贡献与主张 - **文献检索智能体**:将其置于相关科学图谱中 - **期刊适配推理智能体**:评估期刊兼容性 这些智能体共同将投稿手稿转化为手稿衍生信号、文献衍生信号和基于证据的期刊推荐。图1展示了系统的工作流程:以论文为输入,手稿理解智能体分析标题、摘要和主要章节,构建论文叙事线、贡献与局限性的精炼摘要,产生手稿衍生信号。文献检索智能体将手稿描述转化为定向查询,利用检索到的相关论文评估与前人工作的重叠度、创新性和定位,同时参考综述和基准论文把握宏观领域趋势。期刊适配推理智能体整合任务特定指令、手稿元数据和文献证据,共同生成优先级排序的候选期刊列表,附带理由说明以及手稿创新性、影响力、严谨性和写作质量的评估。最终输出包括最佳匹配期刊、基于证据的理由说明和投稿前改进手稿的反馈。 以手稿为输入时,手稿理解智能体首先将其转化为结构化表示。该智能体分析标题、摘要和主要章节,识别核心研究问题、叙事线、贡献类型、主要主张、支撑证据和关键局限,所生成的表示既包含论文研究内容,也涵盖科学论证的构建方式。它还区分手稿类型(方法论文、发现论文或资源论文),并进一步区分主题相似但贡献形式不同的手稿,如方法论突破、生物学发现、基准测试或可复用数据资源。这些手稿衍生信号为后续评估和推荐阶段奠定基础。 对于期刊推荐,系统主要依赖摘要、引言和讨论部分——我们在第2.5节将证明这些部分相对于完整手稿仍能保留近乎完整的预测信号。文献检索智能体随后将手稿置于当代科学背景中。由于创新性、重要性和领域定位的评估取决于已有研究成果及该工作与相关研究的差异,无法仅从手稿本身得出结论。利用手稿理解智能体生成的结构化表示,文献检索智能体首先生成基于关键词和自然语言的定向查询,反映手稿的主题、方法、应用领域、数据模式和声明的贡献。这些查询适配于文献数据库(包括PubMed、Semantic Scholar和Europe PMC)的语法和检索能力。具体而言,定向查询包含论文特定关键词。
相似文章
Agentic Publication Protocol: 科学出版现代化的尝试
本文介绍了Agentic Publication Protocol (APP),这是一种将科学论文与代码、数据以及智能体指令打包的格式,旨在提高可复现性,并允许AI智能体与已发表的研究进行交互并在此基础上进行构建。
Prompt-to-Paper: 生物信息学的代理式AI系统
Prompt-to-Paper是一个多阶段多代理AI框架,用于自动化生物信息学稿件生成。它采用确定性检索增强生成、用于真实实验的自主编码代理以及八维质量评分器,以低成本生成可投稿格式的PDF,并实现了经过验证的质量提升。
科学领域的代理型AI实验
本文介绍了两个代理型AI框架:DeepTS/DeepCollector和DeepScribe,它们利用混合本地-云端架构和大语言模型,自动化科学工作流程,包括时间序列数据整理以及将物理讲座转化为结构化报告。
迈向AI研究的端到端自动化
一篇介绍AI科学家(The AI Scientist)的论文,该系统自动化了从想法生成到同行评审的整个研究生命周期,展示了人工智能在科学贡献方面日益增长的能力。
Paper2Agent: 将研究论文重塑为交互式且可靠的AI代理
Paper2Agent是一个自动化框架,它将研究论文转换为交互式AI代理,以增强知识传播并通过自然语言实现复杂的科学查询。