标签
文章认为，当前的安全工具忽视了AI代理在生产环境中运行所带来的风险，暗示监控策略存在错位。
一项统计显示，在生产中，89%的代理团队拥有可观测性，但只有52%运行评估，这引发了关于如何控制提示变更的问题。
Decagon 将 90% 的工作负载运行在微调后的开源模型上，以获得低延迟和高性能；而由于使用前沿模型的新用例激增，企业整体在开源大语言模型上的支出已降至 11%。文章认为，随着用例逐渐成熟，它们将从闭源模型迁移到开源模型。
文章讨论了AI工作流成本激增的常见原因，例如重试、重复的工具调用、长时间运行的工作流以及不断增长的上下文，并询问团队如何调查此类问题。
作者回顾了构建 AI 智能体的经验，并主张创建生产就绪的智能体不应当过于复杂。
一位开发者认为，大多数生产环境下的AI代理缺乏必要的可观测性，例如会话追踪和成本监控，并将其比作在没有监控的情况下部署Web应用。文章质疑代理可观测性是否仍是一个未解决的问题。
关于在读取外部内容（如电子邮件和网页）的AI代理中处理提示注入攻击的讨论，探讨了生产级别的防御措施以及超越明显模式的微妙威胁。
Vercel的AI Gateway现在支持路由规则，允许开发者无需修改代码即可动态重写模型路由（例如，从已弃用的模型如Claude Fable-5切换到Claude Opus-5），确保生产工作负载保持弹性。
一个运行在OpenClaw上的真实AI代理主持了一场关于生产环境AI代理的AMA。
一位开发者勾勒了生产级AI智能体的结构化技能栈，涵盖规划、工具使用、权限、恢复、观察、预算和升级，这些被视为显式契约而非松散的工具包装器。
一位开发者寻求关于如何在生产环境中控制和约束AI代理行为的建议，特别是当它们与真实系统（如数据库和客户数据）交互时，询问当前实践情况以及这是否是一个已知的难题。
Mycelium 是一个实验性的开源运行时防护，可在 AI 代理的请求到达 LLM 之前防止许多可预见的故障，旨在提高生产环境中的可靠性。
REAP是一个自动化管道，从真实的开发者-代理会话中策划生产环境衍生的编码代理基准，利用基于LLM的分类和稳定性检查，确保无需手动标注的可靠评估。
一位开发者认为，AI模型周围的框架（评审、脚手架）比模型本身更重要，并分享了一个例子：一个27B模型在优秀评审的帮助下变得可用于编码工作。
Fireworks AI 宣布推出 Serverless 2.0，引入三个服务层级（标准、优先、快速），无需预先配置 GPU 即可处理流量拥塞，通过按请求路由实现可靠性和成本效益。