@cjzafir: 我付了13.99加元给Google,用A100 80GB GPU训练一个9B参数的LLM模型。耗时:> 10分钟打开笔记本 > 7小时训练 …
摘要
一位用户分享了使用Google Colab以13.99加元在A100 GPU上训练9B参数LLM的工作流程,指出整个过程可以过夜运行,并感叹训练小语言模型已不再困难。
查看缓存全文
缓存时间: 2026/05/22 19:58
我付给谷歌13.99加元,在A100 80GB GPU上训练一个9B参数的LLM模型。
所需时间:
10分钟 运行笔记本步骤 7小时 训练模型 1.5小时 评估测试 1.25小时 验证测试 30分钟 GGUF/MLX转换
夜里,我在新笔记本上运行codex(配合计算机操作的chrome扩展)。
早上,我得到一个新的定制训练模型。
训练SLM现在不再困难了。醒醒吧。
相似文章
训练3.8B LLM至0.384 CORE,成本998美元 – Hugo Vergnes
Hugo Vergnes以998美元训练3.8B参数LLM至0.384 CORE,展示了在主要研究实验室之外也能实现的经济高效的模型训练方法。
@haoge6699:想当年,微调大模型简直是天方夜谭——没有 GPU、没有预算、没有环境,普通人根本连门都摸不到……
Unsloth Studio 现已接入免费的 Google Colab,支持超过 500 个开源模型(如 Qwen、DeepSeek、Gemma),让普通用户无需 GPU 或付费硬件即可进行大模型微调。
@ivanalog_com: 调试了一会儿,现在在Google A100上运行Qwen Flash的速度(3000+预填充,90+ tps)已经更快了…
一个名为collabosm的GitHub仓库提供了一个优化设置,用于在Google Colab A100上运行Qwen3.8-Flash-Next模型,实现了比商业API更快的推理速度,并附有详细的性能指标和说明。
@h100envy:谷歌工程师详解如何在手机上用21分钟将小型LLM从46%准确率微调至90% - 比…
一位谷歌工程师分享了在手机上用21分钟将Gemma 270M模型从46%准确率微调至90%的方法,使用合成数据、LoRA、int4量化,离线可达每秒2000 tokens。
@akshay_pachaar:谷歌刚刚发布了一款新LLM!你只需8GB内存就能在本地运行。让我们用自己的数据来微调它(完全本地运行…
谷歌发布了一款新LLM,只需8GB内存即可在本地运行。推文展示了如何在本地利用个人数据对其进行微调。