标签
用户在使用 vLLM 在两台 DGX Spark 机器上部署 DeepSeek-V4-Flash-0731 时，寻求社区关于降低 VRAM 占用和释放操作系统 RAM 的建议，分享了详细的配置和内存测量数据。
本文介绍了SLAI T-Rex，一种面向昇腾NPU SuperPOD上万亿参数MoE模型的全参数后训练优化框架，实现了34.22%的MFU，并在运筹学任务上比GPT-5.4-Mini高出3.98个百分点。