@Hikari_07_jp: 35B-A6B 模型开发进度报告!! 重大突破——我终于获得了一台性能怪兽服务器的访问权限……

X AI KOLs Timeline 新闻
model-development large-scale-training mixture-of-experts hardware-access open-source-ai

摘要

35B-A6B 模型的开发者报告获得了一台配备 768GB 显存和 1.5TB 内存的强大服务器，能够进行全面评估和大规模调优。这一突破加速了高质量 AI 模型的开发。

35B-A6B 模型开发进度报告!! 重大突破——我终于获得了一台性能怪兽服务器，配备 768GB 显存和 1.5TB 内存！！这改变了一切。项目向前迈出了一大步！ 现在我正在家庭实验室 + 从 @x_xedo_x 借来的工作站上同时对开发中的模型进行全面评估。RTX PRO 6000 总共 12 张，显存 1152GB。 盲目增加更多专家只会增加噪声，所以我们将全力投入认真的大规模调优。没有捷径。 感谢所有转发我帖子的人——从心底感谢你们。因为你们，这条信息传到了那些确实有空闲算力的人手中。你们的帮助使这一切成为可能。 我全力以赴。一定要交付一个非常棒的模型。继续加油！！
查看原文
查看缓存全文

缓存时间: 2026/07/07 17:35

35B-A6B 模型开发进展报告！！

重大突破——我终于用到了一台绝对的怪兽级服务器，拥有 768GB 显存和 1.5TB 内存！！这将改变一切。项目的巨大飞跃！

现在，我正同时在家庭实验室和从 @x_xedo_x 借来的工作站上对开发中的模型进行完整评估。RTX PRO 6000 总共将有 12 块，合计 1152GB。

仅仅盲目增加专家数量只会引入更多噪声，所以我们正全力以赴进行严肃的大规模调优。不走捷径。

对所有分享过我帖子的朋友们——衷心感谢你们。正因为你们，这些消息才传到了那些确实有闲置算力的人那里。你们的帮助让这一切成为可能。

我正在倾尽所有投入其中。一定会交付一款出色的模型。继续加油！！

相似文章

3000美元 128GB 显存 + 256GB DDR4 内存服务器

Reddit r/LocalLLaMA

一位用户详细介绍了构建一个具有128GB显存和256GB DDR4内存的家庭推理服务器，用于AI工作负载。在使用VLLM分支处理Qwen3.8模型时，尽管最初有设置问题，但取得了令人满意的性能。

@servasyy_ai: 彻底疯了！本地大模型直接变天！ Unsloth 刚刚放出 DeepSeek-V4.1-Flash 最新 Dynamic V3.1 量化版，现在只要 64GB 内存就能原地起飞！ 以前跑这种体量的怪兽还得堆昂贵服务器，这次直接把门槛砸穿： …

X AI KOLs Timeline

Unsloth 发布 DeepSeek-V4.1-Flash-1017 的 Dynamic V3.1 量化版 GGUF，使 64GB 内存设备即可本地运行该模型，并宣称推理速度最高提升 3 倍、支持 100 万 token 长上下文，在同级量化基准测试中全面领先。