标签
一位用户演示了为本地LLM智能体添加MCP工具用于本地图像和视频生成,实现了按需全离线免费的生成。
文章介绍了Xenova开源了27个自定义WebGPU内核,使得Gemma 4模型可以在浏览器中完全离线、本地运行,性能达到255 tok/s,并讨论了隐私、离线使用等优势。同时也提到了FLUX.2的3D生成能力。
一位用户在自己的笔记本电脑上搭建了一个完全离线、完全开源的RAG系统,强调不会向OpenAI发送任何数据。他们提供了一个6步指南。
OpenAI Codex现已免费,但更令人惊讶的是本地开源模型也能达到接近云端的AI Agent体验,演示了修复游戏、开发网页游戏等场景,无需API Key和网络。
一位开发者打造了一个口袋版查尔斯·司布真AI助手,完全离线运行在微调后的Gemma模型上。它可以用司布真的口吻回答神学问题、准备讲章,并对讲章草稿进行评分。
Trace是一款Mac应用,能在本地转录会议内容,无需上传音频,用户可在通话中标记重要时刻,并获取清晰的Markdown转录稿。
Webxdc 是一种安全、点对点的聊天迷你应用格式,可离线运行,零追踪,支持私有游戏和协作,无需服务器或应用商店。
Atomic-Chat 是一款开源桌面和移动应用,用于在本地完全离线运行 LLM,提供 ChatGPT 的私有替代方案。
一个完全离线、仅使用CPU的语音循环,用于本地大模型,采用Silero VAD、Parakeet STT和Supertonic TTS,通过一条命令整合安装。兼容Ollama、LM Studio以及多种代理框架。
Midas是一款本地智能体记忆工具,使用嵌入和排序而非LLM调用来完成信息摄入,实现了零成本、离线运行,通过可审计的源轮次获得高召回率。
谷歌的TurboVec是一款新的开源工具,能将AI搜索数据的内存占用从31GB降至4GB。它基于TurboQuant,实现比FAISS更快的搜索,可集成LangChain和LlamaIndex,并完全离线运行。
微软将在2026年7月因证书过期远程将永久许可的Office 2019和2021 for Mac降级为只读模式,这与之前保证应用将继续运行的承诺相矛盾。
Voiden 是一个免费、原生支持Git、离线的API工作空间,可在终端中运行,支持REST、GraphQL、gRPC和WebSocket,无需账户,无云锁定。
SingleFile 是一个免费开源的浏览器插件和CLI工具,能将任何网页完整打包成一个HTML文件,保存图片、CSS等,永久离线可用,支持自动保存、批量保存和云存储。