我在真实的LangGraph代理周围添加了一个运行时监督器——它在执行前拒绝了一个工具调用,模型重新规划了
摘要
本文介绍了ARK的开发,这是一个用于AI代理的运行时监督层,通过与LangGraph代理和OpenAI模型测试,通过拒绝不合规的工具调用来执行约束,并促进模型重新规划。
我一直在构建ARK,一个用于工具使用AI代理的运行时监督层。理念很简单:保留你的模型,保留你的代理框架,保留你的工具,在运行时周围添加ARK。我终于让它在真实的LangGraph代理中使用真实的OpenAI模型运行了。在这个测试中,我故意创建了一个冲突:用户提示要求最便宜的航班,而运行时策略要求排名第二的选项。目的不是证明排名第二的“更好”;而是测试ARK是否能在不控制代理的情况下执行运行时约束。实际的顺序是:OpenAI模型生成:book_flight(option="A") → ARK检查它 → 拒绝 → A执行=false LangGraph将ARK的反馈反馈给模型 OpenAI模型生成:book_flight(option="B") → ARK再次检查 → 允许 → B执行=true 重要的部分是ARK没有自己将A重写为B。原始模型生成的工具调用是:第一轮:book_flight(option="A") 第二轮:book_flight(option="B") 而实际的副作用是:实际预订:["B"] A执行:false B执行:true 重试状态由ARK的Go运行时维护,而LangGraph继续拥有模型、规划器、工具和执行循环。我还在LangGraph周围测试了ARK的仅观察模式:模型调用 → 工具调用 → 完成 其中LangGraph报告模型/令牌/工具信息,ARK构建决策跟踪并推导运行遥测。SDK尚未公开(可能今天或明天就会),我仍在发布前强化它。实时测试已经发现了一个模型定价解析错误,我们的确定性测试没有暴露,我正在修复它后再发布。对于在生产中运行工具使用代理的人的问题:你愿意在执行路径中有这样的监督器吗?什么会让你信任它或拒绝使用它?
相似文章
我在 LangGraph 上重新实现了 Arbor(一个能生长假设树的研究代理)—— 一个保留实验记录而非遗忘失败经验的代理
一位开发者在 LangGraph 上重新实现了一篇论文中的多代理研究系统 Arbor,分享了关于图结构强制不变性以及从失败中反向传播洞察的经验。该重新实现 arbor-lg 使用 LangGraph 的 StateGraph 和 SQLite 检查点实现持久化。
我用Go构建了一个AI代理运行时,在交付前编译并测试生成的代码,35个文件,156个测试,零依赖
ARK是一个开源的Go运行时,它管理AI代理的决策,在交付前编译和测试生成的代码,具有6阶段验证管道和成本高效的模型路由。
ARK正在改变AI代理在运行时的行为。
ARK引入了一个用于AI代理的运行时系统,该系统监控并执行策略,跟踪决策成本,并正在被开发成一个SDK,以提高代理的可靠性并减少计算浪费。
图工程?或者我们可以说是打了类固醇的智能体……
介绍 GraphARC,一个 MIT 许可的开源工具,允许模型在运行时编写智能体图拓扑,并配备确定性的准入门以确保可审计的执行,基于 LangGraph 构建,可通过 ollama 在本地运行或对接云 API。
构建了一个 LLM 在结构上被禁止生成最终输出的 Agent,寻求反馈以及愿意尝试“攻破”它的人
作者描述了一个基于 LangGraph 构建的 AI Agent,旨在复现生产环境中的 Python 崩溃问题。其独特之处在于架构设计:LLM 负责规划行动,而确定性 Python 函数则生成最终测试代码,以确保可靠性。