@QuixiAI:AUM说话了!我从零开始训练了我自定义的架构。在8x3090设备上用1B个token训练了78M参数…
摘要
用户宣布他们从零开始训练了一个自定义的78M参数AI架构,在8x3090设备上使用1B个token耗时12小时,声称该模型现在可以说话了。
AUM说话了!
我从零开始训练了我自定义的架构。
在8x3090设备上用1B个token训练了78M参数。训练时长12小时。https://t.co/dOYHuPVT1u
查看缓存全文
缓存时间: 2026/07/04 08:41
AUM发声了!
我从零开始训练了自己的自定义架构。
7800万参数,在我的8×3090设备上使用10亿个token训练,耗时12小时。https://t.co/dOYHuPVT1u
相似文章
@HowToAI_: NVIDIA 完成了一项不可能的任务,却无人提及。他们以 4 位精度训练了一个 120 亿参数的 LLM…
NVIDIA 利用新的 NVFP4 格式及微缩放技术,以 4 位精度训练了一个 120 亿参数的大语言模型,在几乎不损失智能的同时,内存使用减半、算术速度提升三倍,标志着高效 AI 训练的重大突破。
我从零开始训练了一个75M参数的LLM,使用18B tokens,它击败了几乎两倍大小的模型
从零开始训练了一个名为KeyLM的75M参数LLM,使用18B tokens,在指令跟随得分上与更大模型竞争,同时使用更少的参数和更少的数据。
Wow!Qwen 3.6:35b-a3b 在 3090 上……太惊人了。
一位用户分享了在二手 RTX 3090 上运行量化版 Qwen 3.6:35b-a3b 模型的惊人结果:将模型放入显存后,输出速度达到每秒 160 个 token,并以 75 秒的视频处理时间展示了视觉能力。
@AlphaSignalAI:一个66M参数的模型刚刚在树莓派上击败了ElevenLabs。文本转语音多年来一直存在于云端。每个语音…
Supertonic 3是一个99M参数的开源TTS模型,完全在设备上运行,在树莓派上击败了ElevenLabs,在笔记本电脑CPU上的性能是实时的167倍。
@DivyanshT91162: 开源AI正变得危险地强大 AntLingAGI 刚刚发布了 Ring-2.6-1T… 一个万亿参数的OSS模型,专为…
AntLingAGI 发布了 Ring-2.6-1T,一个万亿参数的开源AI模型,专为长周期工作流和实际编码任务设计,在 Tau2-Bench、GPQA Diamond 和 ClawEval 上取得了令人印象深刻的基准成绩。