@rasbt：我整理了一篇关于使用开放权重模型设置本地编码代理的新文章。一切完全在本地运行。我…

我整理了一篇关于使用开放权重模型设置本地编码代理的新文章。一切完全在本地运行。 我认为整理这篇文章可能会很有用，因为过去很多人问过我的设置，而且我想这也能激励人们开始尝试使用本地模型进行严肃工作（是的，随着更好的 LLM 和更好的工具的出现，今年这些模型变得非常强大）。 那么，这里有一个操作指南，讲解如何将本地 LLM 连接到本地编码工具（可能是你已经熟悉的 Claude Code 或 Codex）。 我还包含了一些评估说明，可作为选择模型时的检查清单，帮助你在不同 LLM 之间进行比较和考量： - 检查长上下文时的 RAM 使用情况，看模型是否适合实际工作 - 衡量预填充和解码 tok/秒，看速度是否足够快而不令人烦恼 - 确保模型在理论上具有足够的工具调用能力 - 评估模型在编码工具中能否解决一些更具挑战性的任务。 当然，总会有更专业的工具可以进一步榨取性能，但我希望这是一个不错的入门套件，保持灵活性；也就是说，你可以轻松切换到新发布的模型，或者如果当前模型对某个任务不够用，还可以在你熟悉的工具中接入云端模型。