Feral v0.2.0 - 开源本地AI工作空间（llama.cpp + BYOK + 代理运行时），现已支持Windows、macOS和Linux。无遥测，无订阅，MIT/Apache-2.0协议
摘要
Feral v0.2.0是一个开源本地AI工作空间，通过llama.cpp运行GGUF模型，支持云端模型的BYOK，包含带有沙盒工具和知识图谱的代理运行时，现已发布Windows、macOS和Linux版本，无遥测，无订阅。
过去几个月我一直在独自开发Feral，这是一款在你自己的机器上运行AI的桌面应用。v0.2.0版本刚刚发布，增加了对macOS和Linux的支持，所以我觉得是时候在这里分享了。
# 它是什么：
- 通过llama.cpp运行本地GGUF模型，完全离线聊天，数据不离开你的机器
- 云端模型BYOK（支持OpenAI、Anthropic、Gemini、NVIDIA NIM等），你的密钥，你的账单，无代理介入。密钥存储在操作系统钥匙串中，永不暴露在前端
- 代理运行时，支持沙盒化工具使用（文件操作、带环境变量黑名单和输出上限的shell、网络搜索）、技能系统，以及一个可检查编辑的持久记忆知识图谱（提供图形界面）
- MCP支持：为模型上下文协议服务器提供应用商店风格的页面，一键安装
- 视觉功能（粘贴/截图拖放），任意文件附件（原生解析PDF/Office文件）
- 基于Tauri 2 + Rust，因此安装程序小巧，不是又一款Electron应用
# 真实情况：
- Windows是主要且经过最多测试的平台
- macOS和Linux版本是本次发布的新增内容，通过CI构建，在真实硬件上进行了轻度测试，请视其为测试版
- macOS尚未经过公证（无Apple开发者证书，这是一个免费开源项目）。首次启动需要运行 `xattr -cr /Applications/Feral.app`，更新可能会触发钥匙串权限提示，用于访问已保存的API密钥。这些都在README中记录了
- Linux目前以.deb/.rpm形式发布，暂不支持自动更新（AppImage存在打包问题，推迟到下一个版本）
- 本地推理目前仅支持文本 - 视觉功能需要云端密钥
无遥测，无账户，无分析，你可以验证，所有代码都在GitHub上，采用MIT/Apache-2.0协议。我会在评论区，乐于回答任何问题，非常欢迎提交bug报告（今天上午有macOS用户报告了一个模型选择器bug，修复已经包含在此版本中）。
相似文章
使用 llama.cpp 在本地运行的自动化 AI 研究员
ml-intern 是一个面向 AI 代理的工具，它与 Hugging Face 的库集成，现在支持通过 llama.cpp 或 ollama 运行本地模型，使得自动化 AI 研究员可以在笔记本电脑上全天候运行。
@ggerganov：llama.cpp 现在有了官方网站：https://llama.app 我们的目标是让本地 AI 人人可用，并改善…
llama.cpp，广受欢迎的本地 AI 推理工具，现在有了官方网站（llama.app），提供跨平台安装程序和更好的用户体验，让本地 AI 更易于使用。
从零搭建本地AI编程代理
一份逐步指南，介绍如何构建一个完全本地运行的最小化AI编码代理，使用llama.cpp、GGUF模型和自定义工具框架，演示如何设置工具并调用模型执行实际任务，例如创建着陆页。
Llama.cpp 0.2.0 版本发布！
Llama.cpp 是一个流行的开源工具，用于运行 LLaMA 模型，现已发布 0.2.0 版本，包含更新日志和预构建二进制文件，可在 GitHub 上获取。
GGML 和 llama.cpp 加入 Hugging Face，保障本地 AI 长期发展
GGML 和 llama.cpp 已加入 Hugging Face，以确保本地 AI 开发的长期可持续性。Georgi Gerganov 的团队将保持对项目的完全自主权，同时获得资源来扩大社区支持并改进 llama.cpp 推理与 transformers 模型定义之间的集成。