我构建了一个浏览器代理,每一步都是约150毫秒的决策,而非LLM调用(开源,零依赖)

Reddit r/AI_Agents 工具

摘要

作者构建了'hunch',一个开源的浏览器代理工具,使用轻量级模型(jev)进行每步快速约150毫秒的决策,减少了与LLM调用相比的延迟,并在现有代理如Claude Code下集成了结构化退出报告。

大多数浏览器代理采取的步骤并不困难。输入电子邮件,输入密码,点击登录。但每个LLM代理都为每个步骤支付完整的推理调用,这就是30-60秒登录流程的来源。所以我构建了hunch:每一步它从agent-browser获取无障碍快照(一个交互元素的编号表),将其发送给jev - typesafe的“系统一”模型,返回类型化的概率而非文本 - 并在一次约150毫秒的请求中获得操作和目标元素。agent-browser执行点击,结果在代码中验证(URL正则/预期文本),从不询问模型是否完成。我最关心的部分是交接。它旨在置于现有代理之下(我在Claude Code下运行它)。当置信度下降、页面停止变化或点击看起来不可逆时,它以结构化报告退出:原因、页面文本、已完成的操作、元素表。你的LLM读取这些并从当前页面接管。对于登录流程,通常是零升级,因此LLM从不运行。护栏在代码中而非提示中:键入的值永远不会到达模型(只有它们的名称),它不会离开起始的原点,不会在无人的情况下点击删除/支付/发送,不会在页面未变化时循环。数字(仓库中的基准脚本):每决策中位数153毫秒 vs 678毫秒对于gpt-4o-mini在相同的页面状态上,两者都是24/24正确。4步表单填写 = 3.4秒端到端,gif是实时的。诚实的警告:jev是托管的且权重封闭,元素标签加页面文本切片发送到他们的API。尚无自由文本输入(jev无法生成),无iframe / shadow DOM / select。在少数流程上测试,而非基准套件。零依赖Python,MIT。链接在评论中。很想听听它在哪里出错。
查看原文

相似文章