langfuse/langfuse
摘要
Langfuse 将其 LLM 工程平台开源,为生产级 AI 应用提供自托管的链路追踪、分析与评估工具。
🪢 开源 LLM 工程平台:LLM 可观测性、指标、评估、提示词管理、Playground、数据集。集成 OpenTelemetry、Langchain、OpenAI SDK、LiteLLM 等。🍊 YC W23
查看缓存全文
缓存时间: 2026/04/22 14:55
Langfuse 正加倍投入开源 Langfuse Cloud · 自建 · 演示
自豪地基于 ClickHouse 开源数据库构建
相似文章
@lotte_verheyden: 这太棒了!团队努力工作,确保 Langfuse 性能出色,即使你扩展到数百万乃至上千万条 trace
Langfuse v4 发布,采用重新架构的数据模型以提升性能,并新增全文搜索、监控器和 AI 助手等功能。
langflow-ai/langflow
Langflow 是一个开源平台,提供可视化构建器以及 API/MCP 服务器,用于构建和部署 AI 驱动的代理和工作流,并支持主流大语言模型和向量数据库。
TraceLLM
TraceLLM 为生产环境中的 AI 应用带来 OpenTelemetry 风格的可观测性,支持对基于 LLM 的系统进行追踪和监控。
llm-d(网站)
llm-d 是一个开源、Kubernetes 原生的分布式 LLM 推理栈,支持 vLLM、SGLang 等引擎,可在 GPU、TPU、XPU 等异构硬件上提供生产级服务,并宣称大幅提升吞吐量与降低 TTFT。
@loretoparisi: LLM Fusion 时代刚刚开始。
Sakana AI 发布了 Fugu Ultra,这是一个编排层,通过统一的 OpenAI 兼容端点将子任务路由到多个模型,性能与领先系统相当。