我构建了一个本地Web界面，用于在自己的文本上微调模型，并实时监控训练过程（支持AMD ROCm）
摘要
一个用于在个人文本上微调AI模型的本地Web界面，具有实时梯度活动监控、A/B提示比较和AMD ROCm兼容性。
我想在自己的笔记上对本地模型进行持续预训练/微调，并在训练过程中观察变化，同时使用我的AMD显卡，因为大多数工具都假设使用CUDA。llm-training-panel是一个本地Web界面，功能包括：
- 从本地目录或HF id加载模型
- 在训练时显示每个参数梯度活动的实时面板
- 在相同提示上运行基线模型和训练后模型，以便您进行A/B比较变化
- 针对探测文件评估召回率和逐字重叠度
在Linux和AMD ROCm上测试。结果因基础模型、语料库和设置而异。
欢迎反馈。
github.com/limkcreply/llm-training-panel
相似文章
Unsloth Desktop
Unsloth Desktop 让用户可以在本地桌面上运行和训练 AI 模型，将微调和推理带到了个人电脑上。
我刚刚花了数周时间从头重写我的 webUI，清除了代码库中所有 AI 垃圾代码，并将其切换到一个合适的轻量级框架（Alpine.js）。现在我可以放心地把它推荐为 openwebUI、librechat 等工具的替代品！它是为本地模型设计的。
开发者宣布推出 OpenLumara，一个完全开源、本地优先的 webUI，用于与本地模型聊天，使用 Alpine.js 从头重写，以消除 AI 生成的代码。它提供了诸如 token 效率、实时工具调用查看以及对模型无额外请求等功能。
现在运行本地模型已经很不错了
作者报告说，运行本地AI模型如今已经表现出色，最近发布的GPT-OSS和Gemma 4等模型使得在本地进行自主编码的准确率达到了前沿模型的大约75%，与几个月前相比有了显著提升。
我开发了一款在本地运行AI模型的安卓应用
一位开发者创建了一款在本地运行AI模型的安卓应用，支持GGUF和LiteRT格式，并提供了多种添加模型的方式。
构建了Kivarro，一款一体化的本地推理工作台。希望从真正在本地运行模型的人那里获得毫不留情的反馈。
作者构建了Kivarro，一个一体化的本地推理工作台，并正在寻求来自本地运行模型用户的反馈。