我发布了一款Windows桌面应用,用于运行本地LLM,其按钮可将你的“不对,错了”转为实际的LoRA训练数据

Reddit r/LocalLLaMA 产品

摘要

一款名为SEELS的Windows桌面应用,允许用户运行本地LLM、纠正模型回复,并自动从纠正中训练LoRA适配器。它集成了语音模式、硬件仪表盘和训练伴生程序。

我构建了一个本地AI桌面应用并刚刚发布。仅限Windows。名为SEELS。把它发在这里是因为如果有人能找到漏洞的话,那就是你们。我真正想做的不是另一个ollama封装。让我困扰的是,每次运行的本地模型都会说些蠢话,而我只能坐在那里想“不,我不是这个意思”。然后我关闭聊天,模型永远不会知道,永远不会学习。所以SEELS的核心卖点是在每条回复上都有一个“Teach”按钮,你可以在那里写下它应该说的话。这些纠正会累积成一个jsonl语料库,当你有足够数量时,点击“Train”,它就会在你的基础模型上实际启动一个PEFT LoRA运行。不需要notebook,不需要Python,不需要终端。只需聊天、纠正、训练。随着时间推移,适配器会堆叠起来,它变成了你的模型,而不是它们的。我从大约110个手写示例中从头训练了一个微小的0.6B助手,这样开箱即用就能在CPU上运行。当然,它不能替代你日常使用的35B模型,但它的目的是回答关于如何使用SEELS本身的问题,而这正是关键。其余标准功能(永久免费,不是试用):可加载任何GGUF模型,语音模式(本地Whisper STT和Piper TTS,无需API密钥),硬件仪表盘让你不必再猜测显卡的剩余空间,单实例锁定(因为我曾经打开两个实例导致自己的SQLite损坏),以及14个设置选项卡(因为哪一个我都不忍心砍掉)。不瞒你说。Pro版本(图像/视频/音乐生成、代码工作区、多配置文件、多LoRA叠加、MCP、cron)已经写好了,但被一个等级检查门控,目前还不能购买。Max版本(蒙版编辑器、插件沙盒、ComfyUI后端、节点图工作流、多GPU、seels-cli)在路线图上,其中一些甚至还没有代码。我不想在一张等级卡上列12项,结果有8项只是空谈。所以网站上写的是“分波发布”而不是撒谎。我真正需要你们关注的事情:如果你教了它30个东西,但下一次训练结果反而更差,那是一个真正的bug。在设置>训练证明中有一个复制按钮可以获取训练轨迹日志。“加载模型失败”以前是一条无用的消息,现在它分支成OOM/损坏/不支持的架构/缺失文件。告诉我哪个触发了,以及是在什么模型上触发的。如果它对你撒谎,现在语音模式开启时会显示一个大的红色横幅,因为有人对我大喊说麦克风感觉偷偷摸摸。告诉我是否太显眼了。安装包大小为2.81 GB,捆绑了CUDA运行时和一个用于训练伴生程序的便携版Python。通过Azure可信签名进行了签名,因此不会出现“未知发布者”警告,但SmartScreen仍会在最初几次安装时提示“Windows已保护你的电脑”,因为这是全新应用。有一个提示弹窗引导你点击“更多信息”>“仍要运行”。这是0.1.5 alpha版。真正的alpha版。可能会有问题。与其让不了解情况的人发现,不如让你们这些人来发现。[tideforge.ai/seels](http://tideforge.ai/seels)
查看原文

相似文章