@sudoingX: 如果你本月开始使用代理系统,无论是云端还是本地,在选择模型之前请阅读此内容。设置决…

X AI KOLs Timeline 新闻

摘要

本文提供了设置代理系统的指南,强调了在选择AI模型之前,像Linux、Tailscale和特定引擎等基础工具的重要性。它概述了有效本地和云部署的八个关键组件和习惯。

如果你本月开始使用代理系统,无论是云还是本地,在选择模型之前请阅读此内容。设置决定了你是否能保持工作流程,模型只决定了工作流程的智能程度,几乎所有人都把顺序搞反了。 基础部分:在笔记本电脑、多个桌面节点和手机上运行代理: > 1. Linux。不可商量。每个引擎都首先为其发布,每个代理都期望一个shell,下面的每个工具都假设它。WSL能让你入门,真正的安装让你深入。 > 2. Tailscale。你拥有的每台机器都在一个私有网格上:笔记本电脑、桌面盒子、手机、租用的节点。好处是:模型在一个盒子上服务,你拥有的每个设备都可以从任何地方与它通信,无需端口转发,无需公共IP。 > 3. 选择一个引擎,llama.cpp是本地和个人推理引擎的起点,当你使用多GPU或多盒子时,用vllm,通过电缆进行张量并行。Ollama和LM Studio能让你快速上手,但当你想要一个标志或第二张卡时,你就会超出它们的能力。 > 4. Hermes Agent。这个工具。本地优先,任何端点,内置消息传递。Telegram网关和桌面应用都运行在同一个网关上,所以手机和笔记本电脑是进入同一个代理的两扇门,共享一个记忆。令牌通过Tailnet流动,自第一天起就没有丢失过一条消息,模型可以在底层切换,而Telegram会话保持活动。 > 5. tmux。持久会话。断开连接,关闭笔记本电脑,回来后一切都在原处。它是代理互相交谈的房间,编排器播种会话,工作者在自己的窗格中运行,你在一个屏幕上阅读所有内容。 > 6. Termius,通过Tailnet,开启Mosh。一个SSH客户端,能从手机到达每个节点,并且在WiFi到蜂窝网络切换时不会丢失会话。如果你想要免费路径和真正的Linux在口袋里,用Termux。 > 7. 一个私有git仓库。在你的一台盒子上自托管,它是跨每个代理的记忆层,它们拉取、工作、合并回去,原本会在聊天窗口中丢失的上下文现在保存在仓库中。 > 8. 从第一天起就编写所有脚本。每个节点的SSH别名,一个重启脚本恢复所有会话,每个模型一个服务脚本。如果你要做一件事两次,它就应该是一个脚本,而且代理会编写这个脚本。 这八个之外的一切都是装饰性的。要熟练掌握它们。 将这些结合起来的习惯是:向AI本身询问配置、错误、脚本,然后在你运行之前阅读它提供的内容。2026年的半个习惯:给代理一个/goal,让它运行一天,看看魔力。 锁定这八个,建立习惯,你就能成功。跳过它,匿名者,你将永远按令牌租用你的思考能力。NGMI。
查看原文
查看缓存全文

缓存时间: 2026/09/16 14:06

如果你这个月刚开始玩智能体系统,无论是云端还是本地,在挑选模型前先读完这篇。环境配置决定了你能否保持流畅的开发状态,模型只决定智能程度的上限——而几乎所有人都把顺序搞反了。

整个系统的基石在于:让智能体在笔记本、多台桌面节点和手机之间协同运行:

  1. Linux系统——这是硬性要求。所有主流引擎都优先适配Linux,所有智能体都依赖命令行环境,以下工具全部基于此系统。WSL能让你入门,但只有完整安装才能让你真正融入生态。
  1. Tailscale组网——把你所有设备纳入同一个私有网络:笔记本、台式机、手机、租用的服务器节点。好处是:模型部署在一台主机上,你的所有设备都能随时随地访问它,无需端口转发或公网IP。
  1. 选择一款推理引擎——本地入门首选llama.cpp,多机多卡场景考虑vllm(支持跨服务器张量并行)。Ollama和LM Studio能让你快速上手,但当你需要自定义参数或使用第二块显卡时,就会发现它们的局限。
  1. Hermes Agent框架——本地优先,支持任意API端点,内置通信机制。Telegram网关和桌面应用共享同一个网关,这意味着手机和笔记本都能接入同一个具有统一记忆的智能体。Token通过Tailscale隧道传输,自上线以来从未出现消息丢失,而且切换底层模型时Telegram会话保持不间断。
  1. tmux会话管理——支持持久化会话:断开连接、合上笔记本、重新连接时,一切状态都保持原样。这更是智能体之间的协作空间:调度器创建会话,工作节点在独立分屏运行,你可以在同一屏幕监控全局。
  1. Termius远程终端——通过Tailscale网络连接,启用mosh协议。这个SSH客户端能让你从手机访问所有节点,在WiFi切换至蜂窝网络时也不会断开会话。想要免费方案?Termux能在手机中提供完整Linux环境。
  1. 私有Git仓库——在任一设备上自托管,这是贯穿所有智能体的记忆层。智能体可以拉取代码、工作、合并提交——那些在聊天窗口中会丢失的上下文,都能永久保存在仓库里。
  1. 从第一天起就自动化——为每个节点配置SSH别名、编写能恢复所有会话的重启脚本、为每个模型准备启动脚本。任何需要重复操作两次的事情都应该脚本化,而智能体本身就能帮你编写脚本。

以上八点之外的功能都属于锦上添花。请先彻底掌握这些基础。

将一切串联起来的关键习惯:直接询问AI——关于配置、错误信息或脚本编写——并且在运行它生成的内容前先仔细检查。2026年该习惯的进阶用法:给智能体一个明确目标(/goal),让它自主运行一天,见证奇迹发生。

锁死这八个基础,培养这个习惯,你就能成功。跳过这些步骤?朋友,你将永远按Token租用思考能力。注定失败。

相似文章