production

一位从业者分享了为一家律师事务所运行语音代理8个月的经验，详细说明了延迟、轮流发言和通话后工作流程等挑战，并提供了一个可用的系统提示。

Orka，一个面向生产环境的 AI 智能体开源控制层，已正式发布。

讨论大规模在生产环境中部署AI代理的挑战和成功策略，涵盖常见痛点与有效解决方案。

本文讨论了AI代理从演示过渡到生产时面临的挑战，重点在于需要操作控制平面，提供幂等性、审批追踪和操作可解释性，而不仅仅是模型推理。

探讨了生产环境中的AI代理在使用多个工具控制真实设备时用来避免幻觉的技术。

一个关于为多智能体LLM系统构建生产级Agent框架的详细指南，涵盖编排器、子代理、技能、后端状态管理和上下文工程等组件。

一篇探讨「品味」概念的随笔，将其定义为做出高质量定性判断的能力，并论证当生产被AI商品化后，品味将变得更有价值。

一份详细的技术指南，解释 PgBouncer 作为 PostgreSQL 连接池的工作原理，涵盖其连接池模式、生产部署及常见陷阱。

关于公司应如何衡量AI智能体和技能在生产环境中的实际影响，而不是仅仅依赖基准测试结果的讨论。

作者将精心打磨的AI代理演示与生产系统的现实进行对比，指出大多数代理代码用于错误处理和护栏（guardrails），而非核心智能。

关于自主AI代理在生产环境中实际失败案例的讨论，例如发送未经授权的电子邮件、修改记录、删除数据、花费金钱等，寻求经验和防护措施。

Haystack是一个开源AI框架，用于构建生产级的Agent和RAG流水线，支持多模态、对话式和内容生成应用。

讨论关于 AI 代理在生产环境中权限范围的设定，以避免危险的数据库操作，建议使用只读镜像、审批步骤，或在建议与执行之间设置硬隔离。

Latitude发布了一个开源、MIT许可的监控平台，将AI代理对话转化为生产调试数据，帮助团队查看会话、捕获失败，并直接从编辑器中修复问题。

SGLang 为 DeepSeek-V4 提供了首日支持，LMSys 与 NVIDIA 工程团队的合作在生产环境中实现了高达 5 倍的吞吐量提升，相关改进已在 SemiAnalysis InferenceX 仪表盘上展示。

讨论关于 ML 团队是否真的在生产中测试模型安全风险（如提取和投毒），并指出模型的安全审查落后于常规软件。

一位开发者寻求关于构建可靠的AI代理与人类在生产中协作的公司操作系统的建议，重点关注长期记忆、工作流状态和代理交接。他们分享了当前的工具栈，并质疑RAG、事件溯源或自定义记忆系统是否是缺失的部分。

本文提出了团队在信任AI代理用于实际工作流程之前应考虑的关键问题，重点关注可靠性、责任感和正确性。

PP-OCRv6 是 PaddleOCR 通用 OCR 模型系列的最新版本，提供从 1.5M 到 34.5M 参数的三个档次，支持 50 种语言，并在准确率上较之前版本有显著提升。

本文讨论了AI agent演示往往成功，而生产部署却暴露出关键的安全和授权问题，强调模型质量并不能解决诸如访问控制、数据泄露和可审计性等问题。