nvidia-rtx-4050

标签

#nvidia-rtx-4050

我在一台6GB RTX 4050笔记本上尝试运行1.56TB MoE模型，结果如下

Reddit r/LocalLLaMA ↗ · 4天前

在配备6GB RTX 4050的笔记本上测试1.56TB混合专家模型，需借助NVMe进行修补式内存流式传输，解码速度达到0.106 tokens/s。

0 人收藏 0 人点赞

← 返回首页

提交意见反馈