开发了一个本地工具,用于缩小成功但错误运行的范围
摘要
作者构建了一个名为Traser的本地浏览器工具,帮助工程师诊断那些完成无错误但产生错误结果的运行。通过比较执行步骤并提供基于证据的调查点。
嘿,大家,我构建了一个东西,我想在与其他工程师交谈后可能会有所帮助。这个领域我厌倦了一遍又一遍地听到同样的废话。明显的模式:运行完成,跟踪存在,没有明显爆炸的东西,最终结果仍然是错误的,然后有人必须花一个下午手动挖掘执行过程,试图找出哪一部分实际上值得首先追踪。是的是的,我知道理想的答案是更早地结构化系统。添加不变量,评估每个阶段,验证状态,使交接明确,所有那些好东西。有些人绝对这样做,它消除了许多这种痛苦,但从我进行的对话来看,许多人最终仍然手动比较步骤输入和输出,与好的运行进行差异对比,反向跟踪状态,或者盯着跟踪试图找出哪个差异实际上重要。所以我说管他呢,让我们看看是否可以自动缩小一些范围。经常出现的东西:前一步看起来没问题,但下一步实际收到不同的状态;工具调用说成功,但响应体包含错误或速率限制;错误的账户/ID被传递下去,而每个步骤都保持模式有效;提示或模型输入更改而跟踪没有明显显示;重试最终成功但执行路径现在不同;配置的模型/提供者不一定是实际服务请求的那个;验证步骤被跳过,所有下游仍然完成。所以我构建了Traser。你给它一个可疑的运行和可选的受信任的运行。它规范化执行,对齐相应的步骤,比较输入、提示、工具参数、输出、状态、重试、来源和其他记录的行为,抑制较低价值的差异,然后给你一小套基于证据值得检查的地方。目前没有LLM进行诊断。当前引擎是确定性的,跟踪分析运行在浏览器中。嗯,也故意不声称根本原因。如果它发现在第4步账户ID更改了,那是证据表明第4步可能值得调查,而不是证明第4步导致了最终结果。我正在验证的部分是排名和对齐是否在真实运行中节省了人们的时间,或者它只是看起来更聪明的差异。这显然仍然是小玩意儿的东西,现在就试试吧,让我知道你是否真的觉得它有用。如果它给出一个愚蠢的候选,错过重要的东西,或者根本没节省你的时间,我宁愿听到这些。
相似文章
意外创建了一个本地检索工具,似乎有效!急需测试建议
作者意外开发了一个用于代理AI软件调试的本地检索工具,该工具能高效缩小代码函数范围以定位错误,并寻求更多测试想法来验证其有效性。
我厌倦了手动调试追踪
一位开发者构建了一个AI代理调试工具,通过比较重放与参考运行来识别行为首次偏离的位置,表达了对手动追踪调试的挫败感。
成功的重试可能使代理跟踪更具误导性,而非减少
本文讨论了AI代理跟踪中成功的重试如何因识别相似调用的不确定性而使分析复杂化,并介绍了Traser,一个用于突出有意义差异并为工程师减少不确定性的工具。
我为AI代理构建了一个本地优先的调试器——v0.3版本现已能找出好坏运行结果之间首次出现有证据支持的分歧点。
TraceMotive v0.3.0 是一款开源本地优先调试器,能够比较 AI 智能体的多次运行过程,并找出良好执行与异常执行之间首个有证据支撑的分歧点。
我做了一个调试用的搜索引擎,不是套壳 [P]
Odin 是一个基于浏览器的调试搜索引擎,它会解析代码仓库,并为给定的 bug 排列出需要修改的确切文件(93%)和函数(79.4%),通过 WebAssembly 使用 Tree-sitter,并通过 WebGPU 使用 10 亿参数以下的本地模型,在 SWE-bench Lite 上以极低成本达到了与 Claude 4.5 智能体相当的准确率。