llmops

LangChain 发布了关于将 AI 智能体从孤立实验扩展到企业生产环境的新指南，汇集了 Schneider Electric、Vodafone 和 monday.com 在共享智能体平台、LLMOps、可观测性、多智能体架构、安全与数据驻留等方面的经验教训。

本文解释了 DevOps、MLOps 和 LLMOps 之间的关键区别，突出了每种方法在软件开发、机器学习和 LLM 应用中如何应对独特的挑战，并重点关注 LLMOps 中的监控和优化。

这篇文章讨论了AI Agents系统设计的重要性，涵盖了Agent Harness、LLMOps和Evals等概念，并提供了一个概念验证实现以及未来部分的计划。

这篇arXiv论文提出了一种统一的LLMOps架构，用于实时、企业级LLM部署，集成了数据摄入、持续学习、RAG和反馈循环。它引入了AIPO、STAR+FAR和SAGE等组件，以解决受监管行业中知识过时、幻觉和延迟-成本权衡的问题。

施耐德电气使用 LangChain 的 LangSmith 在100多个国家运行超过60个生产级AI代理，通过其AI助手为16万名员工提供服务，展示了企业级LLMOps能力。

TensorZero，一个开源LLMOps平台，在获得730万美元种子轮融资后，已将其GitHub仓库归档。该平台提供统一的网关、可观测性、评估、优化和实验功能，面向LLM。

RiskKernel 是一个自托管的单一Go二进制文件，为AI代理强制执行严格的每次运行预算（成本、循环次数、实际时间）、紧急关闭开关和人工审批门，支持Anthropic和OpenAI提供商，且无遥测。

一本开源交互式手册，用于构建 Agentic DevOps 流水线，涵盖多智能体系统的可观测性、基于测试的提示评估、护栏和成本控制。