JetBrains 本地 AI（使用 Qwen3.6 27B）

# Junie 本地版：在您的 Mac 上运行 AI 编码代理 | JetBrains 来源：https://blog.jetbrains.com/junie/2026/08/junie-local-launch/ Junie 标志 (https://blog.jetbrains.com/junie/) 代理式 AI (https://blog.jetbrains.com/junie/category/agentic-ai/)编程 (https://blog.jetbrains.com/junie/category/coding/)JetBrains AI (https://blog.jetbrains.com/junie/category/jetbrains-ai/)新产品 (https://blog.jetbrains.com/junie/category/new-products/) ## Junie 现已可完全在您的 Mac 上运行——无需额度，无需云服务 ## 我们迈向本地设备编码代理的第一步 Junie 早已能够连接本地模型运行时。将其指向 Ollama 或 LM Studio，加载本地模型，代理即可在该模型上运行。已有许多人这样做。但这同样意味着您需要自己挑选模型、调整设置，并处理大量手动配置——而小模型只能处理有限的简单任务。 因此，我们为您完成了这一切。隆重介绍 Junie Local：它搭载了我们精心挑选并针对自身代理循环进行调优的模型，通过单个命令即可安装，并完全在您的机器上运行。无需令牌，无需配额，您的代码永远无需离开您的机器。而且它完全免费。 ## 单一命令，无需配置 在 Junie 中，运行 `/local`。模型开始下载，本地服务器启动，Junie 自动切换。无需编写 JSON 配置文件，无需预先安装运行时，无需指向任何端点。 模型是 Qwen3.6-27B 的 4-bit 量化版本，下载量约 20 GB，您需要一台配备 64 GB 内存的 M5 Mac。下载完成后，所有操作均在您的硬件上进行，因此您的提示词、源代码和差异文件都留在本地。 您现有的设置将无缝继承。*计划*模式、实时提示、指南、技能以及您的自定义命令都保持不变。引擎变了，但代理本身未变。 ## 我们关于提升速度的一些发现 所有人都会基准测试生成速度。但对于编码代理来说，这其实是错误的追逐目标，因为大部分时间消耗在预填充阶段，即模型读取文件以理解当前状况的过程。优化预填充才是获得真正收益的关键，这也是为什么 Junie Local 要求从 Apple M5 起步：M5 的神经加速器拥有 M4 所缺乏的 8 位算术指令，使用这些指令为我们带来了约 40% 的预填充吞吐量提升。我们将以此补丁的形式向 MLX-VLM 提交 PR。 我们还特意选择了 Qwen3.6 而非更新的 3.8。Qwen3.8 需要启用推理功能才能可靠工作，开启后任务运行速度会慢约四倍。在当前 Mac 上，3.6 胜出。 这其中还有很多细节，包括跨任务的 KV 缓存复用以及将生成速度大致翻倍的推测解码设置。请阅读这篇深度解析文章：《我们如何为 Junie 代理优化 Qwen 3.6 模型》。(https://blog.jetbrains.com/junie/2026/08/qwen-for-junie/) ## 效果如何？ 在让任何模型接触 Junie 之前，我们都会使用 JetBrains 自己的私有测试集进行评估，Junie Local 也不例外。Qwen3.6-27B 的得分与 Sonnet 4.5（10,000 token 推理限制）持平。中等努力的 GPT-5 略高一些。 需要注意这些分数的背景：我们本地模型的推理功能是完全禁用的，因为我们的测试发现它带来的质量提升很小，但成本却增加了两到三倍的 token 消耗。因此，这些结果是模型在不启用推理的情况下，与启用了推理的云端模型对比得出的。 对于日常工作，您很可能不会察觉其中差距。但在复杂的架构推理方面，您肯定会发现区别。 ### 当不再计量收费时，会发生什么 基准测试告诉我们一个模型能否胜任工作。但它们无法告诉我们，当工作完全免费时会发生什么。 成本效率一直是您在 Junie 中可调节的一个旋钮：在强大模型上规划，在廉价模型上实现。Junie Local 将这个旋钮调到了零。当再多一次迭代也是免费时，那些您通常绝不会花费额度去处理的工作就值得交付了。Junie Local 非常适合： - 不值得花费成本的多文件重构和重命名。 - 过去两个季度您一直忽略的测试覆盖率缺口。 - 依赖升级和框架迁移。 - 快速熟悉您接手的代码库。 冗长、重复、机械性的工作正是代理存在的意义，也是当您关注账户余额时会停止要求的任务。 对一些团队来说，Junie Local 提供的隐私性就是阅读这篇文章的全部理由。这里没有供应商数据政策需要审查，因为整个过程没有供应商参与。如果您根据客户保密协议工作，这将对话从“我们评估了供应商”转变为“未涉及任何供应商”。 它甚至可以在完全没有网络的情况下工作。一旦权重文件下载到磁盘，Junie Local 在飞机上的表现与在办公室一样。 ### 是的，硬件要求很高 我们清楚，一台配备 64 GB 内存的 M5 Mac 要求不低。我们不会假装不是这样，我们也知道这让 Junie Local 对许多读者来说遥不可及。 这就是目前良好运行一个 27B 模型所需的成本，也是我们正在努力降低的数字。我们的目标是更低的内存门槛、更广泛的硬件支持以及更多的栈优化。如果过高的要求是您无法尝试 Junie Local 的原因，请放心，我们正在努力降低它们。 ## 这只是第一步 一个模型，一个芯片家族，一个平台。我们从狭窄的起点开始，因为专注于调优一个模型在整个栈上的表现，胜过勉强支持所有模型。 Mac 是起点，而非终点。我们已经有了适用于 DGX Spark 和 RTX 5090 的工作原型，并且正在考虑 24 GB 显存的显卡。预填充在独立 GPU 上的行为截然不同，因此大部分优化工作将转向该硬件。 如果您对下一个应支持的平台有何想法，现在正是告知我们的好时机。 ## 开始使用 Junie Local 完全免费——无需注册、无需订阅、无需额度，也无需信用卡。 打开 Junie，运行 `/local`，然后交给它一个您一直推迟的任务。接着告诉我们哪里出了问题、什么让您感到惊讶，以及您接下来想要什么。Junie 的每个部分都源于这个反馈循环，这次也不例外。 #### 订阅 Junie 博客更新 https://blog.jetbrains.com/junie/2026/08/junie-local-launch/# ## 发现更多