在Mac上使用Ollama和sbx设置OpenCode

# 在Mac上使用Ollama运行Opencode —— Tensors & Tokens 来源：https://tensorsandtokens.com/posts/opencode-ollama/ 软件开发 (https://tensorsandtokens.com/categories/software/) 如何开始使用Opencode和Docker沙盒运行Ollama本地模型\. 可行的本地大语言模型开发已经到来\. 借助Qwen 3.8 (https://ollama.com/library/qwen3.8)和Gemma4 (https://ollama.com/library/gemma4)等强大模型，我们现在终于可以利用这些模型来构建Web应用了\. 我使用的是Apple Macbook Pro M5 48GB型号\. 我认为这是本地开发的黄金配置，因为它允许你运行30B参数的模型并配备足够大的上下文窗口\. 我为何选择Ollama (https://ollama.com/)\. 简而言之就是易用\. 它现在支持MLX框架，在Apple Silicon芯片上运行速度很快\. 它拥有相当完善的模型目录，同时运行非常稳定，不易崩溃\. 我为何选择Opencode (https://opencode.ai/)\. 嗯，这个博客总得从某个地方开始，而Opencode是一个出色的运行框架\. 我还在使用另一个工具，Docker沙盒 (https://www.docker.com/products/docker-sandboxes/)，又名`sbx`\. 我工作中使用前沿模型，这要求我们必须为运行框架设置沙盒环境\. 我也喜欢在容器中运行本地模型，因为它们同样可能因不当的幻觉输出而搞乱你的电脑\. ### 安装工具 **安装Docker沙盒：** ``` brew trust docker/tap && brew install docker/tap/sbx ``` **安装Opencode：** ``` brew install anomalyco/tap/opencode ``` **安装Ollama：** 要安装Ollama，请访问https://ollama.com/并下载安装该应用\. ### 安装模型 对于模型，我们将拉取2个模型\. 首先确保Ollama正在运行\. **Qwen 3.8 27B mxfp8 \(32GB\)**：这是一个出色的主力模型，能承担大部分长时间运行的工作，并且可以在Opencode中不受干扰地运行数小时\. ``` ollama pull qwen3.8:27b-mxfp8 ``` **Gemma 4 31b mxfp8 \(34GB\)**：当你需要更强大的模型时，这是一个出色的大参数密集模型\. ``` ollama pull gemma4:31b-mxfp8 ``` **注意：**如果你没有48GB的Apple设备，可以拉取标准模型：`qwen3.8:27b-mlx`和`gemma4:31b-mlx`\. ### 配置你的项目 此设置要求你为每个项目设置一个sbx套件 (https://docs.docker.com/ai/sandboxes/customize/kits/)\. 套件是自定义沙盒的一种方式\. 创建以下文件夹和文件： ``` ./sbx-kit/files/home/.config/opencode-local.json ./sbx-kit/spec.yaml ``` **spec.yaml** ``` schemaVersion: "2" kind: mixin name: local-ollama-opencode version: "0.1.0" displayName: Local Ollama for OpenCode description: Configure OpenCode in Docker Sandboxes to use Ollama running on the Mac host. requires: agent: opencode environment: variables: OPENCODE_CONFIG: /home/agent/.config/opencode-local.json permissions: network: allow: - localhost:11434 - localhost:5173 - localhost:4000 agentInstructions: content: | Local Ollama runs on the host machine. Default model: qwen3.8:27b-mxfp8 Deep file analysis / reasoning: gemma4:31b-mxfp8 ``` **opencode-local.yaml** ``` { "$schema": "https://opencode.ai/config.json", "model": "ollama/gemma4:31b-mxfp8", "small_model": "ollama/gemma4:31b-mxfp8", "lsp": false, "provider": { "ollama": { "npm": "@ai-sdk/openai-compatible", "name": "Mac Ollama", "options": { "baseURL": "http://host.docker.internal:11434/v1" }, "models": { "qwen3.8:27b-mxfp8-64K": { "id": "qwen3.8:27b-mxfp8", "name": "Qwen 3.8 27B MXFP8 [31 GB] [64K ctx]", "limit": { "context": 65536, "output": 8192 }, "variants": { "low": { "reasoningEffort": "low" }, "medium": { "reasoningEffort": "medium" }, "high": { "reasoningEffort": "high" }, "xhigh": { "reasoningEffort": "xhigh" } } }, "gemma4:31b-mxfp8": { "name": "Gemma 4 31B MXFP8 [33 → ~50 GB] [256K ctx]", "limit": { "context": 262144, "output": 8192 } } } } } } ``` 对于qwen模型，我们将其上下文限制为64k，这将确保当内存耗尽时你的系统不会锁死\. 我们还需要为沙盒预留3GB内存\. ### 运行Opencode 要运行opencode，请执行以下命令： ``` sbx run opencode --kit ./sbx-kit/ ``` 这将启动Opencode并默认选中Qwen模型\. 务必通过`/models`命令将推理强度切换为“low”\. 你应该可以顺利运行了\. **注意：**你需要登录Docker才能运行sbx\. 这个功能在开发者社区中并不受欢迎，但别无他法\. opencode