Mimo 2.5 在大上下文下_快速_（双 RTX Pro 6000）
摘要
Mimo 2.5 使用双 RTX Pro 6000 GPU 展示了在大上下文窗口下的快速性能。
暂无内容
相似文章
@0xSero: Minimax-M3 在 4 块 RTX Pro 6000 上运行 - 800k 上下文 - 4 路并发 (250k) - 70-120 tok/s - 2000 tok/s 预填充无缓存…
Minimax-M3 被演示在 4 块 RTX Pro 6000 GPU 上运行，具备 800k 上下文，在 4 路并发下达到 70-120 tok/s 推理速度和 2000 tok/s 预填充速度，使用 376GB VRAM 和 mxfp4 格式。
Mimo V 2.5 与 Mimo V 2.5 Pro 正式发布
Mimo V 2.5 及 Mimo V 2.5 Pro 现已发布，带来全新功能与多项改进。
RTX 5080 16GB：Qwen3.6 35B MoE 在 128k 上下文下的表现——56 tok/s，以及 MTP 为何无济于事
Qwen3.6 35B MoE 在 RTX 5080 16GB 上的详细基准测试表明，MTP（多令牌预测）由于显存限制，在 128k 上下文中无法提升推理速度；最佳配置为不带 MTP 的 Q4_K_XL，在 128k 上下文下生成速度约 56 tok/s。
48GB 显存实现 500k 上下文！！- 21 tok/s (编码)
一位用户报告成功部署了量化版 Nemotron-3 Super 模型，该模型支持 500k 上下文和代理编码，运行在消费级双 Titan RTX 硬件上。
Qwen3.6-35B-A3B Q4 262k上下文，8GB 3070 Ti上可达+30tps
作者分享了在8GB RTX 3070 Ti上使用llama.cpp运行Qwen3.6-35B-A3B MoE模型，实现高达262k上下文、30+tps的详细调优技巧，并指出从Windows切换到Ubuntu Server后速度提升了25%。