@TeksEdge：全球首个开源 100B 医疗大模型已发布。本地推理者现在可以在家中运行健康模型选项。安...

全球首个开源 100B 医疗大模型已发布，本地推理者现在可以在家中运行健康模型选项。AntAngelMed（100B 参数，仅 6.1B 激活参数）最近发布，具有以下特点： - 在 MedBench & HealthBench 上超越开源模型 - 在 H20 硬件上达到 200+ tokens/秒的速度 - 支持 128K 的上下文长度 - 在医疗推理、安全性和同理心方面表现出色 - 可本地运行（完全隐私保护） - 仅需 6.1B 激活参数（非常高效） - 可针对医院和研究进行微调 AntAngelMed（100B 医疗大模型）的实际部署选项（均为估算）： - 最佳平衡 → INT4（约 50 GB），适用于 2-4 块 GPU（RTX 5090 / 4090） - 最高质量 → FP8（约 100 GB），适用于 DGX Spark 或 Mac Studio 128GB - 预算选项 → INT4（约 50 GB），适用于 2 块 RTX 4090 + CPU 卸载（较慢） - 单块 RTX 5090（32GB）→ 不推荐（模型过大） GGUF 可以进一步减小体积 由浙江省人民医院与蚂蚁集团共同构建。这是开放和隐私友好的医疗 AI 的一大飞跃。