@MSFTResearch: 如果病理基础模型能以更少的资源做更多的事情会怎样?GigaPath-Flash和GigaTIME-Flash降低计算需求…

X AI KOLs Timeline 模型

摘要

GigaPath-Flash和GigaTIME-Flash是高效的病理基础模型,它们在保持性能的同时降低计算需求,使计算病理学能够进行更大规模的研究。

如果病理基础模型能以更少的资源做更多的事情会怎样?GigaPath-Flash和GigaTIME-Flash在保持强大性能的同时降低计算需求,为更大规模的研究和更广泛的探索打开了大门。 https://t.co/5qj1ZlA4Hm https://t.co/TPhSxtX3lI
查看原文
查看缓存全文

缓存时间: 2026/09/01 13:47

如果病理基础模型能以更少资源完成更多任务会怎样?GigaPath-Flash和GigaTIME-Flash在保持强大性能的同时显著降低了计算需求,为更大规模的研究和更广泛的探索打开了大门。 https://t.co/5qj1ZlA4Hm https://t.co/TPhSxtX3lI


让病理基础模型实现大规模应用

来源:https://www.microsoft.com/en-us/research/blog/gigapath-flash-and-gigatime-flash-toward-population-scale-discovery-with-efficient-pathology-foundation-models/ GigaPath/GigaTIME模型家族概览。GigaPath-Flash提供参数量为2200万的高效图块与切片编码器。GigaTIME-Flash通过蒸馏后的ViT-S编码器替代CNN主干,实现了从H&E染色预测空间蛋白质组学。

概要

  • Flash系列在GigaPath和GigaTIME基础上实现了效率飞跃,使大规模病理研究更易普及和实用。
  • 蒸馏后的病理基础模型主干在保持性能的同时降低了计算需求,使跨更大患者群体的重复分析成为可能。
  • 这些开源模型支持群体级发现,帮助研究者在多样化癌症数据集中探索疾病生物学、生物标志物与临床结果。

GigaPath (https://aka.ms/gigapath) 与 GigaTIME (https://aka.ms/gigatime) 已证明基础模型如何支持基于常规病理数据的全切片分析和肿瘤微环境建模。GigaPath-Flash和GigaTIME-Flash大幅提升这些能力的效率,使研究者能够分析更大规模队列、运行更多实验,并逐步实现群体级发现。GigaPath-Flash与GigaTIME-Flash均为研究模型,未经临床应用验证,不可用于诊断、预后、治疗选择或其他患者诊疗决策。其性能可能因数据集、扫描仪、机构、人群和应用场景而异。

计算病理学的规模机遇

组织病理学是癌症研究中最丰富、最易获取的信息来源之一。每次组织活检生成的整张病理切片图像以亚细胞分辨率捕捉细胞形态——医院每年产生数百万张此类切片。这些数据包含与诊断、预后、治疗选择及肿瘤微环境生物学相关的信息。

基础模型已开始大规模解锁这些信息。但整张病理切片图像体量巨大——通常超过十亿像素——即使对单张切片应用基础模型也需处理数千个图像图块。当研究涉及数万名患者时,计算成本会急剧增长。而群体级发现并非单次模型运行,它需要跨患者亚组、生物标志物和临床终点反复进行特征提取、统计分析、假设检验与验证的循环过程。

计算成本限制了研究者可探索的患者数量、数据集、任务和假设数量。为充分发挥病理基础模型的潜力,我们需要能够以可承受的成本反复应用于大规模患者群体的模型。

从GigaPath和GigaTIME到Flash系列

GigaPath(Nature, 2024)(https://aka.ms/gigapath-paper)是基于普罗维登斯真实世界大规模组织病理学数据预训练的整张切片基础模型。与仅在图块层面操作的模型不同,GigaPath学习整张切片的上下文表征,同时捕获局部细胞模式和全局组织架构。

GigaTIME(Cell, 2026)(https://aka.ms/gigatime-paper)将这项工作延伸至肿瘤微环境。该模型在4000万细胞数据上训练,配对H&E染色与多重免疫荧光(mIF)数据,可将常规H&E图像转化为跨21个蛋白通道的虚拟空间蛋白质组学图谱。应用于超过14,000名癌症患者后,该模型生成了虚拟人群,揭示了超过1200个免疫细胞状态与临床生物标志物之间的统计显著关联。

GigaPath和GigaTIME解决了病理数据规模与生物学发现的需求。如今,Flash系列模型进一步解决了实验规模的问题。

图1:GigaPath/GigaTIME模型家族概览。GigaPath-Flash提供参数量为2200万的高效图块与切片编码器。GigaTIME-Flash通过蒸馏后的ViT-S编码器替代CNN主干,实现从H&E染色预测空间蛋白质组学。

GigaPath-Flash与GigaTIME-Flash介绍

Flash系列共享核心设计理念:在显著降低生成和使用病理表征所需计算资源的同时,保留有效的病理表征能力。两个模型均基于相同的高效主干构建——一个从原始十亿参数GigaPath编码器蒸馏而来的紧凑型ViT-S图块编码器——且均以Apache 2.0许可证发布。

GigaPath-Flash

GigaPath-Flash是用于全切片表征学习的高效基础模型。它结合了2200万参数的ViT-S图块编码器和2100万参数的LongNet切片编码器。图块编码器从原始GigaPath ViT-g教师模型蒸馏而来,将十亿参数模型的表征能力转移至规模缩小一个数量级的主干网络。切片编码器通过空洞注意力机制对所有图块嵌入进行上下文建模,计算复杂度与图块数量呈线性关系。

在全切片分类基准测试(PANDA前列腺分级和EBRAINS脑肿瘤亚型分类)中,GigaPath-Flash在全切片预训练模型中实现了最低推理成本,同时保持竞争力——其性能与原始GigaPath相差不超过3%,而计算量仅为后者的约五十分之一。

图2:全切片基准测试中的效率-性能权衡。GigaPath-Flash(红色,左上)以显著低于其他全切片预训练模型的计算成本实现了竞争性性能。

GigaTIME-Flash

GigaTIME-Flash用GigaPath-Flash的ViT-S编码器替换了原始GigaTIME的CNN主干,并配以轻量级卷积解码器实现H&E到mIF的转换。该模型使用LoRA适配器进行微调,基本冻结预训练编码器权重。

在涵盖脑癌、乳腺癌、结肠癌和肺癌的分布内和分布外队列中,GigaTIME-Flash在空间蛋白质预测质量上达到或超越了原始GigaTIME。在分布外数据上提升尤为显著,表明基础模型主干能增强对未见过组织类型的泛化能力。

图3:GigaTIME与GigaTIME-Flash在GigaTIME测试集及四个分布外Prov-TMA队列上的平均窗口皮尔逊相关系数。GigaTIME-Flash在所有队列上均达到或超越原始模型性能。

不牺牲基础能力的效率提升

Flash模型的效率提升十分显著:

模型类型效率提升
GigaPath-Flash
全切片基础模型
较GigaPath减少约50倍计算量,保留97%预测性能
GigaTIME-Flash
空间蛋白质组学
较GigaTIME加速约6倍,内存占用减少约8倍,预测性能更优

对于单张切片,这些差异能减少运行时间和硬件需求。当处理数万张切片时,这些差异将直接决定实验是否可行。以单张A100 GPU生成虚拟mIF数据为例,假设每张切片约含10,000个图块:

模型1,000张切片10万张切片100万张切片
GigaTIME-Flash~2 GPU小时~7 GPU天~70 GPU天
GigaTIME~7 GPU小时~30 GPU天~300 GPU天

估计基于每张切片约10,000图块,批大小128,单块NVIDIA A100 GPU。实际运行时间取决于切片大小、切图分辨率和硬件配置。

图4:GigaTIME效率扩展性。左:吞吐量(图块/秒)与批大小关系。右:GPU峰值显存(GB)与批大小关系。GigaTIME-Flash在仅占用部分内存的情况下可扩展至每秒1600个图块以上。

开源模型发布

GigaPath-Flash与GigaTIME-Flash均以Apache 2.0许可证作为开源权重模型发布。模型权重和代码可通过HuggingFace获取:

  • GigaPath-Flash (https://aka.ms/GigaPath-Flash)
  • GigaTIME-Flash (https://aka.ms/GigaTIME-Flash)
  • 《GigaPath-Flash与GigaTIME-Flash:用于全切片与肿瘤微环境分析的高效病理基础模型》(https://www.microsoft.com/en-us/research/publication/gigapath-flash-and-gigatime-flash-efficient-pathology-foundation-models-for-whole-slide-and-tumor-microenvironment-analysis/)

这是早期研究发布。当前评估仅覆盖有限基准测试和队列,仍需跨任务、扫描仪和患者群体的更广泛验证。我们预期这些模型最具价值的应用将包括超越初始实验的科学问题、队列和用例。我们欢迎社区评估,同样关注模型表现优异和不足之处的反馈。

后续临床应用需要额外的多中心和前瞻性验证。

播客系列

Daniel Carpenter、Timo Minssen、Chad Atalla和Kathleen Sullivan的插图头像(微软研究播客)

AI测试与评估:来自科学与工业界的启示

了解微软如何借鉴其他领域的经验,将评估与测试作为AI治理的支柱。

效率作为发现的赋能器

GigaPath和GigaTIME展示了病理基础模型能从全切片和肿瘤组织中学习什么。GigaPath-Flash和GigaTIME-Flash标志着让这些能力应用于更广泛人群、更多实验和更广泛研究群体的进程。

通过提升病理基础模型的效率,我们希望扩展研究者能够探索的科学问题规模。

致谢

GigaPath-Flash与GigaTIME-Flash是微软研究院、华盛顿大学和普罗维登斯的合作成果。技术细节详见论文 (https://www.microsoft.com/en-us/research/publication/gigapath-flash-and-gigatime-flash-efficient-pathology-foundation-models-for-whole-slide-and-tumor-microenvironment-analysis/)。

论文共同作者:Naoto Usuyama, Jeya Maria Jose Valanarasu, Sicong Yao, Hanwen Xu, Jaspreet Bagga, Guanghui Qin, Robert E. Kramer, Cliff Wong, Soohee Lee, Hao Qiu, Theodore Zhengde Zhao, Racheli Ben Shimol, Angela Crabtree, Kevin Matlock, Eduardo Alejandro Lozano Garcia, Naiteek Sangani, Alberto Santamaria-Pang, Maximilian Rokuss, Yashna Hasija, Naisargi Manishkumar Patel, Jason Entenmann, Alexandra Q. Bartlett, Bill J. Wright, Bernard A. Fox, Brian Piening, Sheng Zhang, Sheng Wang, Tristan Naumann, Carlo Bifulco, Hoifung Poon

相似文章

MDASH中的MAI-Cyber-1-Flash

Hacker News Top

微软推出了MAI-Cyber-1-Flash,这是一款适用于MDASH的紧凑型安全模型,在CyberGym上达到96%的性能,相比之前的模型节省了50%的成本。该模型旨在高效处理90%的安全任务,从而能够将更大的模型用于更困难的任务。