我如何构建自己的零成本AI助手

Reddit r/artificial 新闻
ai-agent zero-cost fallback-chain free-tier personal-assistant hermes-agent

摘要

作者描述如何利用免费云服务积分和多个语言模型的回退链构建一个零成本的AI个人助手，包括Hermes Agent、Gemma 4、Qwen3等，部署在AWS和Oracle Cloud实例上。该助手集成了Telegram和Discord，并管理Spotify和电子邮件。

过去几周我一直痴迷于一个目标：拥有一个个人自维护的AI助手，成本为零，并且可以通过手机控制。这并不容易。我先是用免费积分在一个AWS EC2实例（50GB存储，t3.micro内存）上进行了最小化设置，然后又创建了一个Oracle Cloud实例（300美元免费积分，但仅限一个月，所以我用它来实验本地模型）。我使用Termius从手机SSH连接到所有设备。一开始我用了OpenClaw。它很酷，但我花在修复上的时间比实际使用的时间还多。我几乎要放弃了，直到我看到一个关于Hermes Agent的视频。实际上，我是在YouTube上搜索如何修复OpenClaw错误时发现Hermes的（感谢NetworkChuck 🙌🏽）。他提到了和我一模一样的沮丧经历，并说Hermes已经稳定运行了一个月。我甚至没看完视频就直接拉了仓库。最棒的是？它有一个“从OpenClaw迁移”的功能。几分钟内我就搞定了。最难的部分是速率限制。如果你使用云模型，尤其是用于代码，很快就会碰壁。我的解决方案？回退链（Fallback Chain）。最初我使用的是openrouter/owl-alpha（隐形模型通常是测试中的旗舰模型，比如big-pickle就是DeepSeek v4），它有100万上下文窗口，并出现在多个排行榜上。后来我转向Hermes后，想要更多自定义，虽然owl-alpha在任务上表现不错，但在角色扮演方面没什么可说的，它只是浅浅地触及了我在SOUL md文件中设定的角色。在Oracle实例上，我一直在实验本地模型（记住，如果使用本地模型，你会牺牲速度但获得隐私。当然，因为虚拟机没有GPU，响应会更慢，简单回复需要大约3-5分钟）。给我印象最深的是Google的Gemma-4-31b-it。它完美地扮演了角色。但是，如果你了解Google，你就知道他们激进的速率限制。所以我设置了助手在多个提供商之间轮换。我从Gemma 4开始，通过openrouter获得完美的个性和角色扮演（在BYOK中添加AI Studio API密钥以延长使用时间）。如果达到限制，我还通过ollama cloud设置了相同的模型，并直接使用Google OAuth（基本上就是Gemma 4三次，哈哈）。如果这些都达到限制，它会跳转到Qwen3-coder-next（阿里巴巴，每个模型100万免费令牌，大约有80个），然后是Nova（AWS Bedrock）、DeepSeek v4（Azure和Opencode Zen），以及Claude Haiku（GitHub）。如果一切失败，我还有Owl Alpha，它简直是猛兽，我用了将近7000万令牌才遇到一次速率限制，而且只持续了几个小时。它存在于我的Telegram和Discord中。它管理我的Spotify，处理我的电子邮件，当我需要真正的研究时，我会让它生成三个独立的代理并行工作。已经8天了，它一次都没有崩溃。如果你正在寻找不花大钱就能获得AI的方法，我强烈推荐你研究一下这个 🫪
查看原文

相似文章

探究能够以最少人为干预运行的代理设置

Reddit r/artificial

作者讨论了最小化人为干预的AI代理框架，重点介绍了如GitHub Agentic Workflows、OpenClaw、Hermes和Aeon等项目，并寻求社区对可靠长期代理工作选项的意见。

# 如何构建低成本、安全、主动的智能体（而不至于被嘈杂的 webhook 烧掉数千美元）

Reddit r/AI_Agents

# 如何用三层管线构建便宜、安全、主动式 AI Agent ## 核心问题：不可信 Webhook 的成本与安全困境 Webhook 是构建主动式（proactive）AI Agent 的核心输入源之一。外部系统不断推送事件——用户消息、支付回调、传感器数据、第三方通知——Agent 需要实时响应。但这里存在两个长期未解决的问题： 1. **成本问题**：如果把每一个不可信事件都交给完整 LLM 循环处理，Token 消耗会迅速失控。一个中等规模的应用每天可能收到数万条事件，其中绝大多数是噪音或无需响应的常规数据。 2. **安全问题**：Webhook 的内容本质上是不可信输入。攻击者可以注入恶意指令、越狱提示（jailbreak prompts），甚至试图让 Agent 执行危险操作（发送外部请求、泄露系统提示词、调用敏感工具）。 传统做法要么牺牲安全性（直接将原始 payload 交给 LLM），要么牺牲智能（用硬编码规则过滤所有内容，导致 Agent 只能处理极少数预定义场景）。 ## 三层管线：用分级处理兼顾安全、智能与成本 解决方案是引入一个**三层执行管线**，让不同复杂度的任务交给不同层级的处理单元： ### 第一层：Safescript 沙箱边缘代码 — 确定性执行 **职责**：处理所有可确定性判断的任务，完全不涉及 LLM。 Safescript 是一种运行在沙箱环境中的安全脚本执行引擎。它负责： - **格式校验与结构解析**：验证 webhook payload 是否符合预期 schema - **规则过滤**：基于开发者预定义的逻辑（阈值、关键词、白名单/黑名单、正则表达式）快速筛选事件 - **数据清洗与归一化**：去除冗余字段、标准化时间戳和编码 - **轻量级聚合**：将多条低价值事件合并为一条高价值摘要事件 **为什么它是"确定性"的**：同样的输入永远产生同样的输出，没有幻觉风险，没有概率性行为。这使得该层的执行结果完全可预测、可审计、可测试。 **为什么它能解决安全问题**：Safescript 的沙箱环境与主 Agent 隔离，无法访问敏感资源、无法发起外部网络请求、无法读取系统提示词或工具定义。即使攻击者在 webhook 中注入恶意代码或越狱指令，这些指令在第一层就被拦截——因为第一层根本不执行"理解语义"的工作，只执行预定义的规则。 **为什么它能解决成本问题**：据实测，大约 **60%-80%** 的 webhook 事件可以在第一层被确定性地处理完毕或过滤掉，完全不触发任何 LLM 调用。 ### 第二层：快速决策模型 — 过滤噪音 **职责**：处理那些无法用规则判断、但也不需要完整推理的事件。 有些 webhook 事件的含义需要理解自然语言才能判断，比如一条用户消息是抱怨、提问、还是一条闲聊。但这种"分类判断"不需要大型模型的深度推理能力。 **第二层使用轻量级、低延迟的决策模型**，典型特征包括： - **小参数规模**：几亿到几十亿参数，而非千亿级 - **任务定向微调**：专门针对分类、意图识别、情感判断、紧急度评估等任务训练 - **极低延迟**：通常在毫秒到百毫秒级别 - **低成本**：单次推理成本比完整 LLM 低 1-2 个数量级 **处理流程**： 1. 接收第一层未过滤掉的事件 2. 输出结构化判断：事件类型、置信度、紧急程度、是否需要完整推理 3. 只有被判定为"需要深入理解或需要 Agent 主动行动"的事件，才被传递到第三层 **这一层的价值**：它在"纯规则"和"完整智能"之间架起了一座桥梁。规则处理不了的语义问题，它来判断；但它的成本只有完整 LLM 的几分之一。实测中，第二层可以再过滤掉剩余事件中的 **50%-70%**。 ### 第三层：完整 LLM Agent 循环 — 深度推理与行动 **职责**：处理真正的复杂、高价值、需要决策的事件。 只有极少数事件会到达这里。但一旦到达，它们通常意味着： - 用户提出了复杂问题，需要 Agent 主动生成并发送回复 - 系统检测到异常，需要 Agent 分析原因并决定是否采取行动 - 需要调用外部工具（搜索、API 调用、数据库查询）来完成任务 - 多步推理和决策 **第三层的 LLM Agent 循环具备完整能力**： - **上下文理解**：结合会话历史和系统提示词进行推理 - **工具调用**：安全地调用预定义工具完成实际操作 - **多步规划**：将复杂任务分解为可执行步骤 - **自然语言生成**：产出高质量、上下文相关的回复 **这一层的安全保障**：即使攻击者成功地让事件通过了前两层的过滤，第三层仍有多道防线： - 工具调用的权限沙箱和参数校验 - 敏感操作的二次确认机制 - 系统提示词的隔离保护 - 输出内容的后处理审查 ## 数据流示意图 ``` Webhook 事件输入 │ ▼ ┌─────────────────────────────┐ │ 第一层：Safescript 沙箱 │ ← 确定性规则、格式校验、过滤 │ 延迟：微秒级 │ 成本：≈ 0 │ 覆盖：60-80% 的事件 │ └─────────────┬───────────────┘ │ 剩余 ~20-40% 的事件 ▼ ┌─────────────────────────────┐ │ 第二层：快速决策模型 │ ← 意图分类、紧急度评估、噪音过滤 │ 延迟：毫秒级 │ 成本：低 │ 覆盖：剩余事件的 50-70% │ └─────────────┬───────────────┘ │ 极少数高价值事件 ▼ ┌─────────────────────────────┐ │ 第三层：LLM Agent 循环 │ ← 完整推理、工具调用、主动行动 │ 延迟：秒级 │ 成本：高 │ 触发率：< 5% 的原始事件 │ └──────────────────────────────┘ ``` ## 成本分析：数字说明一切 假设一个中等规模应用每天收到 **100,000 条** webhook 事件： | 处理方式 | 每日 LLM 调用次数 | 相对成本 | 安全性 | |---------|-----------------|---------|--------| | 全部交给完整 LLM | 100,000 | **100x**（基准） | 低（直接处理不可信输入） | | 三层管线 | ~3,000 | **3x** | 高（多层隔离与过滤） | | 仅用规则过滤（无 AI） | 0 | ≈ 0 | 中高 | 三层管线将成本降低到传统做法的 **约 3%**，同时将安全性从"完全不设防"提升到"多层纵深防御"。更重要的是，它没有牺牲智能能力——真正需要深度推理的事件，仍然会获得完整的 LLM Agent 处理。 ## 设计原则总结 1. **分而治之**：不要用一个万能组件处理所有问题。简单任务用简单工具，复杂任务用复杂工具。 2. **安全前置于智能**：不可信输入的校验和隔离必须发生在语义理解之前，而不是之后。 3. **成本意识设计**：系统架构应当让 LLM 调用成为例外，而非默认路径。 4. **确定性优先**：凡是可以用确定性逻辑完成的工作，绝不交给概率性模型。 5. **纵深防御**：即使某一层被突破，后面的层仍然是独立的防线。 ## 结语 构建安全的主动式 AI Agent 不等于在每个环节都使用最强大的模型。相反，**聪明的架构设计**——将确定性规则、轻量级决策模型和深度推理组合成分层管线——才能同时解决成本失控和安全漏洞这两个核心挑战。Safescript 沙箱、快速决策模型和完整 LLM Agent 循环的三层结构，提供了一种经过验证的实现路径：让 AI Agent 既能广泛感知外部世界，又能在成本可控的前提下安全地做出正确决策。