我发布了一款Windows桌面应用,用于运行本地LLM,其按钮可将你的“不对,错了”转为实际的LoRA训练数据
摘要
一款名为SEELS的Windows桌面应用,允许用户运行本地LLM、纠正模型回复,并自动从纠正中训练LoRA适配器。它集成了语音模式、硬件仪表盘和训练伴生程序。
我构建了一个本地AI桌面应用并刚刚发布。仅限Windows。名为SEELS。把它发在这里是因为如果有人能找到漏洞的话,那就是你们。我真正想做的不是另一个ollama封装。让我困扰的是,每次运行的本地模型都会说些蠢话,而我只能坐在那里想“不,我不是这个意思”。然后我关闭聊天,模型永远不会知道,永远不会学习。所以SEELS的核心卖点是在每条回复上都有一个“Teach”按钮,你可以在那里写下它应该说的话。这些纠正会累积成一个jsonl语料库,当你有足够数量时,点击“Train”,它就会在你的基础模型上实际启动一个PEFT LoRA运行。不需要notebook,不需要Python,不需要终端。只需聊天、纠正、训练。随着时间推移,适配器会堆叠起来,它变成了你的模型,而不是它们的。我从大约110个手写示例中从头训练了一个微小的0.6B助手,这样开箱即用就能在CPU上运行。当然,它不能替代你日常使用的35B模型,但它的目的是回答关于如何使用SEELS本身的问题,而这正是关键。其余标准功能(永久免费,不是试用):可加载任何GGUF模型,语音模式(本地Whisper STT和Piper TTS,无需API密钥),硬件仪表盘让你不必再猜测显卡的剩余空间,单实例锁定(因为我曾经打开两个实例导致自己的SQLite损坏),以及14个设置选项卡(因为哪一个我都不忍心砍掉)。不瞒你说。Pro版本(图像/视频/音乐生成、代码工作区、多配置文件、多LoRA叠加、MCP、cron)已经写好了,但被一个等级检查门控,目前还不能购买。Max版本(蒙版编辑器、插件沙盒、ComfyUI后端、节点图工作流、多GPU、seels-cli)在路线图上,其中一些甚至还没有代码。我不想在一张等级卡上列12项,结果有8项只是空谈。所以网站上写的是“分波发布”而不是撒谎。我真正需要你们关注的事情:如果你教了它30个东西,但下一次训练结果反而更差,那是一个真正的bug。在设置>训练证明中有一个复制按钮可以获取训练轨迹日志。“加载模型失败”以前是一条无用的消息,现在它分支成OOM/损坏/不支持的架构/缺失文件。告诉我哪个触发了,以及是在什么模型上触发的。如果它对你撒谎,现在语音模式开启时会显示一个大的红色横幅,因为有人对我大喊说麦克风感觉偷偷摸摸。告诉我是否太显眼了。安装包大小为2.81 GB,捆绑了CUDA运行时和一个用于训练伴生程序的便携版Python。通过Azure可信签名进行了签名,因此不会出现“未知发布者”警告,但SmartScreen仍会在最初几次安装时提示“Windows已保护你的电脑”,因为这是全新应用。有一个提示弹窗引导你点击“更多信息”>“仍要运行”。这是0.1.5 alpha版。真正的alpha版。可能会有问题。与其让不了解情况的人发现,不如让你们这些人来发现。[tideforge.ai/seels](http://tideforge.ai/seels)
相似文章
将聊天中的每个"不,我不是这个意思"转化为实际的LoRA训练数据
一个桌面应用,让用户可以在聊天中纠正模型回复并本地训练LoRA适配器,无需手动使用笔记本即可闭环反馈。
我制作了一款用于在 WSL/Ubuntu 中管理 llama.cpp 的 Windows 应用
llama.cpp Console 是一款 Windows 桌面应用,提供图形界面来管理 WSL/Ubuntu 中的 llama.cpp,涵盖安装、构建、模型下载和服务部署。
我制作了一个UI和服务器,用于在本地使用llama.cpp运行Anthropic的新自然语言自编码器
作者构建了一个自定义的llama.cpp服务器和Mikupad UI,以便在本地运行Anthropic的开源自然语言自编码器并实现激活引导。目前正在开发LoRA版本以降低内存需求。
LlamaStation v0.9——面向Windows的llama.cpp图形界面,支持多后端、TurboQuant、MTP等
LlamaStation v0.9 是 llama.cpp 的 Windows 图形界面,提供简洁的界面和完整的参数控制,支持多个后端(官方、TurboQuant、AtomicChat、BeeLlama),实时显存监控、模型专属配置文件、语音模式和无头模式,所有这些都不需要像 Ollama 这样的中间层。
我正在开发一款开源 LLM 应用,用于写作/角色扮演,近期新增了桌面宠物 + AI 智能体功能
作者介绍了 Vellium,这是一款用于与 LLM 交互的开源跨平台桌面应用。最新功能包括桌面小组件以及支持 MCP 服务器和文件操作的 AI 智能体可视化界面。