标签
作者在本地用 Qwen3.5 0.8B 作为基座训练了自己的 Jev 风格 Decision 模型,仅用 4GB 显存、60 步(约 10 分钟)LoRA 训练就将准确率从 37% 提升到 65%,并通过视频分享了使用 Unsloth Studio 的完整流程。
Jeff系列模型是超快速的开放权重决策模型,通过在RTX PRO 6000等硬件上本地训练,实现了与更大模型如Jev相当的基准测试性能,推理速度低于30毫秒。
PC-ALM 是一种局部训练方法,通过层局部动态系统传播监督信用,使得训练多达1000层的网络无需反向传播成为可能,同时性能几乎与反向传播相当。
一个用于在个人文本上微调AI模型的本地Web界面,具有实时梯度活动监控、A/B提示比较和AMD ROCm兼容性。
一条推文声称中国开源大语言模型已经完全取代了新发布的模型,允许本地训练,不过对业余开发者而言门槛提高了。
作者详细介绍了尝试在Nvidia 5090 GPU上使用qlora以及来自open-dllm和d3LLM的修改来本地训练Qwen 3.6 27B自回归到扩散模型的过程,在探索单步扩散技术时遇到了显存限制和硬件问题。