厌倦了盲目调试LangChain代理,我构建了一个本地优先的可观测性工具(MIT开源,无需云服务)

Reddit r/AI_Agents 工具

摘要

TraceSage 是一款采用MIT许可的新兴本地优先可观测性工具,专为LangChain和LangGraph设计,完全在您的机器上运行,提供实时拓扑图、逐步重放、令牌追踪和OpenTelemetry导出功能,无需将数据发送至云端。

我使用LangChain和LangGraph构建了不少东西,每当运行出错时,我都会遇到同样的问题:无法看到内部发生了什么。哪个工具被实际调用了,哪个LLM说了什么,每一步消耗了多少令牌,哪里出了问题。大多数情况下,我最终四处散布print语句并眯着眼睛查看日志,这可不是什么好办法。我知道有LangSmith和LangFuse,它们都很好。但它们就是不符合我在本地工作的方式。一个需要云账户,另一个需要运行Docker和Postgres,还有一些会将你的追踪数据发送到你并不拥有的服务器上。对于日常开发,尤其是涉及敏感数据的情况,这超出了我愿意处理的范围。所以我构建了TraceSage。你只需添加几行代码,它就能完全在你的机器上运行。没有数据流出。它的具体功能:在运行流式传输时,实时绘制你的代理、工具、LLM和MCP服务器的拓扑图;允许你逐步重放任何运行,并查看每个步骤的完整请求和响应;追踪每个LLM节点每次调用的输入输出令牌;按加载工具的MCP服务器对工具进行分组,从而清晰区分本地工具;导出至OpenTelemetry,这样当你需要云端功能时,可以将其导入Grafana、Datadog、Honeycomb或任何支持OTLP的系统;提供生产环境硬关闭开关:设置TRACESAGE_ENABLED=false即可完全禁用;将所有数据保存到本地SQLite文件,支持离线运行。采用MIT许可,无需账户,无需密钥。安装命令为 pip install tracesage[langchain]。预先提醒,它还很年轻,目前仅支持LangChain和LangGraph。我非常希望能得到反馈,尤其是缺少什么功能或API使用起来哪里有问题。Github和pypi链接会在评论中提供。
查看原文

相似文章