Lobstah Net,一个用于 P2P 推理的网格插件

Reddit r/openclaw 工具

摘要

Lobstah Net 是一款全新的 ClawHub 插件,支持点对点联邦推理,通过将 LLM 调用路由到运行 Ollama 上 Qwen 等本地模型的闲置 Mac mini 网络来实现。它为 OpenClaw 代理提供 OpenAI 兼容接口,并使用 Nostr 进行安全的收据传播。

刚刚发布 https://clawhub.ai/plugins/@lobstah/openclaw-provider 到 ClawHub。想分享它的功能以及它如何融入典型的 OpenClaw 设置。 **它是什么:** 一个用于联邦推理的网格状系统。让你的闲置 Mac mini 为网格贡献算力,作为回报,当你需要时可以为你的代理请求算力。OpenClaw 的即用型模型提供商,将代理的 LLM 调用路由到对等 Mac mini 节点网络而不是 API。每个节点本地运行 Ollama/Qwen 等;你获得 OpenClaw 预期的相同 OpenAI 兼容接口。 **安装:** openclaw plugins install clawhub:lobstah-openclaw-provider 你的本地 Ollama/Qwen 模型成为一个节点。当其他代理请求你已拉取的模型时,它们的请求开始落到你的机器上。收据通过 Nostr 签名和传播,以便整个网络可以看到谁服务了谁。尽管插件通过了 ClawHub 安全扫描器,欢迎提供任何反馈以改进,特别是在安全方面,我知道类似的系统过去曾被用于机器人攻击,但这对资源有限下的长期运行任务可能很有用。
查看原文

相似文章

lobehub/lobehub

GitHub Trending (daily)

LobeHub 是一个开源的人工智能代理协作平台,使用户能够寻找、构建并与代理队友协作,支持 MCP 插件、多模型提供商以及本地/远程部署选项。

Mesh LLM:基于iroh的分布式AI计算

Hacker News Top

Mesh LLM 是一个分布式AI计算平台,它聚集多台机器上的闲置GPU来运行大型语言模型,并暴露单一的OpenAI兼容API。该平台利用iroh的点对点网络,实现无需中央服务器的私有、去中心化推理。

OpenClaw 2.0

Product Hunt

OpenClaw 2.0 是一款开源 AI 代理,通过自动密钥检测简化设置过程,并支持多人团队功能,用于本地设备的浏览器控制和文件管理。

Remote OpenClaw

Product Hunt

Remote OpenClaw 提供超过 13,000 个 MCP 服务器、技能和插件,适用于 AI 编程代理。