标签
InclusionAI(蚂蚁集团)宣布推出 Ling-3.0-flash-Sante,这是一款专注于医疗健康领域的模型,拥有 1240 亿参数(激活参数为 51 亿)和 256K 上下文窗口,适用于医学推理、文献研究和工具辅助工作流,模型权重已在 Hugging Face 上发布。
AtomicChat 发布了 inclusionAI Ling 3.1 flash 的 GGUF 量化版本,采用其自研的 Atomic Dynamic 布局与公开校准语料,覆盖从 Q8_0 到实验性 1-bit 的多种量化档位,可在 llama.cpp 上本地运行。
一位用户分享了他们的设置,使用 Ling 3.0 Tiny 作为 Hermes(Qwen 3.8 27B)的辅助模型来处理简单任务,如上下文压缩和摘要生成,从而提高速度和效率,且不影响质量。
本文介绍了两个配置标志,它们将官方Ling-3.0-flash INT4在单个DGX Spark上的推理速度从20.8 tok/s提升到38.7 tok/s,同时提醒需要使用特定的vLLM分支,并指出在长上下文性能方面的权衡。
本技术报告介绍了Ling与Ring 2.6,这是一系列万亿参数规模的大语言模型,旨在实现高效且即时的Agentic智能。