我开发了一个本地工具,用于导出、搜索和继续来自OpenRouter、LM Studio和AI Studio的聊天,可使用llama.cpp或OpenRouter

Reddit r/LocalLLaMA 工具

摘要

ThreadShelf是一款开源工具,支持用户在本地存档、搜索和继续来自OpenRouter、LM Studio和AI Studio的聊天,具备语义搜索和llama.cpp集成功能。

我在OpenRouter上有许多聊天记录,涉及不同模型,但基本上没有合适的方法来批量导出或搜索它们。因此,我为此编写了一个js爬虫。LM Studio更容易处理,因为聊天是本地的,而Google AI Studio的格式最丑陋。这演变成了ThreadShelf:一个本地存档,支持语义/精确搜索和MCP。我还在LM Studio中遇到了Gemma的问题,所以我添加了一个llama.cpp包装器。现在可以通过llama.cpp本地继续旧聊天,或通过OpenRouter继续。首次公开OSS发布:https://github.com/ChrystianSchutz/ThreadShelf
查看原文

相似文章