标签
本文介绍了两个配置标志，它们将官方Ling-3.0-flash INT4在单个DGX Spark上的推理速度从20.8 tok/s提升到38.7 tok/s，同时提醒需要使用特定的vLLM分支，并指出在长上下文性能方面的权衡。
本技术报告介绍了Ling与Ring 2.6，这是一系列万亿参数规模的大语言模型，旨在实现高效且即时的Agentic智能。