@QuixiAI：AUM说话了！我从零开始训练了我自定义的架构。在8x3090设备上用1B个token训练了78M参数…

X AI KOLs Timeline 2026/07/04 08:14 模型

custom-architecture training gpu-rig small-model personal-project

摘要

用户宣布他们从零开始训练了一个自定义的78M参数AI架构，在8x3090设备上使用1B个token耗时12小时，声称该模型现在可以说话了。

AUM说话了！我从零开始训练了我自定义的架构。在8x3090设备上用1B个token训练了78M参数。训练时长12小时。https://t.co/dOYHuPVT1u

查看原文

查看缓存全文

缓存时间: 2026/07/04 08:41

AUM发声了！

我从零开始训练了自己的自定义架构。
7800万参数，在我的8×3090设备上使用10亿个token训练，耗时12小时。https://t.co/dOYHuPVT1u

相似文章

X AI KOLs Timeline

一位用户在2023年构建了一款专门用于运行Qwen 3.8 27B等模型的AI服务器。

X AI KOLs Timeline

腾讯开源了一个名为AuK的1.5B参数AI模型，可以替代多个音频工具，通过自然语言指令处理TTS、语音克隆和降噪等任务。

X AI KOLs Timeline

NVIDIA 利用新的 NVFP4 格式及微缩放技术，以 4 位精度训练了一个 120 亿参数的大语言模型，在几乎不损失智能的同时，内存使用减半、算术速度提升三倍，标志着高效 AI 训练的重大突破。

Reddit r/LocalLLaMA

从零开始训练了一个名为KeyLM的75M参数LLM，使用18B tokens，在指令跟随得分上与更大模型竞争，同时使用更少的参数和更少的数据。

Reddit r/singularity

字节跳动正在早期阶段训练一个参数多达10万亿的大语言模型，标志着AI开发的大规模扩展。