标签
Victor Velazquez 宣布了他的新书《The Agentic Engineer》，该书概述了使用大型语言模型 (LLMs) 构建生产系统的原理，并包含了真实世界的事件故事。
一位有志于AI工程师职位的开发者向资深从业者请教：什么样的项目作品集最能体现生产环境技能？他提出了LLM路由服务、带防护机制的智能体系统、本地推理微服务等方向，并询问作品集中常见的不足之处。
本文介绍了轻量级排序头框架，通过启用动态任务注入，无需重新训练骨干模型，来加速生产推荐系统中的多任务实验，从而在YouTube规模下将迭代周期从数周缩短至数天。
LangChain的指南探讨了像Madrigal Pharma、Abridge和Vizient这样的组织如何在医疗和生命科学领域扩展AI代理，以加速研究并减少文档负担，重点在于构建可靠性和合规性的基础设施。
本文探讨了在生产环境中，AI 智能体是否需要专门的可逆层来处理和撤销错误，并强调了当前恢复过程中所需的手动工作量。
该论文评估了零样本LLM何时能在生产环境中取代微调NLU分类器进行意图检测，突出了LLM在超出范围检测、ASR鲁棒性和动态模式方面的优势，并为实践者提供了决策框架。
QCon London 由那些在生产系统上工作的从业者策划，为软件开发提供相关见解。
一位用户正在寻求其他运行具有写入生产系统权限的AI agents的实践经验，讨论如操作验证、重试处理、审计跟踪和内部所有权等运营挑战。
本文讨论了为非开发者使用像n8n这样的可视化工具构建自定义AI代理的可行性，但强调了四个关键断点，即生产系统因缺乏工程控制而失败的情况。
讨论探讨了允许AI代理在ERP和CRM等生产系统中进行无监督写入操作的当前立场，质疑行业中的障碍和舒适度。
SAGE是一种面向生产级RAG系统的基于学习的SLO感知自适应检索策略，能够根据每个查询动态选择检索段落数量，在几乎不损失质量的前提下提升SLO合规性并降低延迟与成本。
关于AI智能体可靠性的实用说明，主张生产环境中的智能体需要明确的门控机制，包括证据阈值、重试预算和影响评估，而不是仅依赖记忆来确定任务是否完成。
认为生产级AI代理的关键在于问责基础设施（如限定范围记忆、人在回路、追踪日志），而非模型智能。
一条推文列出了在推理工程中应构建的关键项目，以理解生产级LLM系统，包括推理服务器、分页KV缓存、推测解码、量化库和防护措施。
一个推文线程，推广丹尼斯·罗斯曼（Denis Rothman）的著作《Context Engineering for Multi-Agent Systems》（多智能体系统上下文工程），该书教授如何通过上下文工程、双重RAG以及其他技术构建透明、模块化的多智能体系统。
讨论当AI智能体不仅能生成文本还能采取实际行动（例如更新记录、调用API）时出现的新安全挑战，探索所需的基础设施，如限定范围的身份、策略层和操作日志。
本文提出了一种方法，将重复的标准操作流程步骤编译为经过验证、有版本管理的工具，在部署前完成，替代推理时的代码生成。在一个配送中心的报警分类系统中，该方法将p50延迟降低了42%，端到端错误率降低了最多53%。
作者将早期的微服务热潮与当前的多智能体系统热潮进行了类比，认为工程实践——而非更好的模型——可能是实现可靠多智能体系统的关键。
本文深入探讨了 Forward Deployed Engineering (FDE) 在 AI 落地中的真正含义，强调 FDE 并非简单的 API 调用或搭建 Agent，而是面向生产落地的系统工程，包括业务翻译、系统设计、平台整合、生产运营和能力沉淀。
一条解释构建生产级AI系统所需的六个关键AI概念（token、嵌入、向量搜索等）的推文串，强调理解这些概念可以避免像API成本失控等代价高昂的失败。