TraceLLM

Product Hunt 产品
observability opentelemetry llm monitoring tracing ai-applications

摘要

TraceLLM 为生产环境中的 AI 应用带来 OpenTelemetry 风格的可观测性，支持对基于 LLM 的系统进行追踪和监控。

<p> 面向生产 AI 应用的 OpenTelemetry </p> <p> <a href="https://www.producthunt.com/products/tracellm?utm_campaign=producthunt-atom-posts-feed&amp;utm_medium=rss-feed&amp;utm_source=producthunt-atom-posts-feed">讨论</a> | <a href="https://www.producthunt.com/r/p/1209887?app_id=339">链接</a> </p>
查看原文

相似文章

TRACER：基于追踪的自适应成本高效路由用于LLM分类

Hugging Face Daily Papers

TRACER是一个开源系统，它在LLM分类端点的生产追踪数据上训练轻量级机器学习代理，并通过一个一致性门控路由请求，仅当代理与原始模型的一致性超过指定阈值时才激活代理。该方法在意图分类基准上实现了83-100%的代理覆盖率，同时保持了对处理边界和故障模式的可解释性。

Tracea

Product Hunt

Tracea 是一款新产品，为AI代理提供类似Datadog的可观测性，具备追踪、根本原因分析和团队记忆等功能。