Lobstah Net,一个用于 P2P 推理的网格插件
摘要
Lobstah Net 是一款全新的 ClawHub 插件,支持点对点联邦推理,通过将 LLM 调用路由到运行 Ollama 上 Qwen 等本地模型的闲置 Mac mini 网络来实现。它为 OpenClaw 代理提供 OpenAI 兼容接口,并使用 Nostr 进行安全的收据传播。
刚刚发布 https://clawhub.ai/plugins/@lobstah/openclaw-provider 到 ClawHub。想分享它的功能以及它如何融入典型的 OpenClaw 设置。
**它是什么:** 一个用于联邦推理的网格状系统。让你的闲置 Mac mini 为网格贡献算力,作为回报,当你需要时可以为你的代理请求算力。OpenClaw 的即用型模型提供商,将代理的 LLM 调用路由到对等 Mac mini 节点网络而不是 API。每个节点本地运行 Ollama/Qwen 等;你获得 OpenClaw 预期的相同 OpenAI 兼容接口。
**安装:** openclaw plugins install clawhub:lobstah-openclaw-provider
你的本地 Ollama/Qwen 模型成为一个节点。当其他代理请求你已拉取的模型时,它们的请求开始落到你的机器上。收据通过 Nostr 签名和传播,以便整个网络可以看到谁服务了谁。尽管插件通过了 ClawHub 安全扫描器,欢迎提供任何反馈以改进,特别是在安全方面,我知道类似的系统过去曾被用于机器人攻击,但这对资源有限下的长期运行任务可能很有用。
相似文章
lobehub/lobehub
LobeHub 是一个开源的人工智能代理协作平台,使用户能够寻找、构建并与代理队友协作,支持 MCP 插件、多模型提供商以及本地/远程部署选项。
Show HN: Lumabri – 使用 Colibri 在 P2P 集群上运行 MoE 模型
Lumabri 允许用户使用 Colibri 引擎在 P2P 集群上运行大型混合专家模型,任何机器都可以加入并聊天,无需预先下载完整模型。它采用纯 C 语言编写,无依赖,首先支持 CPU,并可选 GPU 加速。
Mesh LLM:基于iroh的分布式AI计算
Mesh LLM 是一个分布式AI计算平台,它聚集多台机器上的闲置GPU来运行大型语言模型,并暴露单一的OpenAI兼容API。该平台利用iroh的点对点网络,实现无需中央服务器的私有、去中心化推理。
OpenClaw 2.0
OpenClaw 2.0 是一款开源 AI 代理,通过自动密钥检测简化设置过程,并支持多人团队功能,用于本地设备的浏览器控制和文件管理。
Remote OpenClaw
Remote OpenClaw 提供超过 13,000 个 MCP 服务器、技能和插件,适用于 AI 编程代理。