IT领导者扩展AI架构所需的基础要素

# IT领导者规模化AI架构所需的基础要素 来源：https://www.technologyreview.com/2026/07/07/1139413/the-foundational-elements-of-ai-architecture-that-it-leaders-need-to-scale 赞助内容 探索AI架构中四个持久的基础要素——数据质量、上下文工程、治理和人类专长——它们将在模型持续演进的过程中保持价值。 随着AI能力的快速进步以及向智能体系统的迁移，组织正在扩展其应用场景，同时这项技术也在不断成长。这种持续演进也带来了风险，让IT领导者难以确定哪些投资在未来六个月后仍具价值。 回归AI架构的基础要素——即部署和管理可大规模运行的可靠、集成AI系统所需的结构框架——能使技术领导者做出明智的当下决策，同时为未来能够跨系统检索信息、做出决策并执行复杂工作流的AI智能体奠定基础。 ### 四个值得信赖的AI架构要素 以下能力提供了通往生产级部署的稳定指南针，无论底层技术如何演变。 #### 1. 为规模化AI准备好数据 模型的可靠性完全取决于其可访问的数据，数据质量差会导致AI幻觉、偏见和不可靠的输出。 大多数企业依赖遗留系统、不一致的数据结构、分散的数据所有权以及不完整的数据集，这使得规模化应用AI变得困难。尽管AI功能强大，但它本身无法解决这些底层数据问题。 正如Elastic CIO Adnan Adil所说：“数据是AI架构中持久的部分，因为没有数据，这些模型就无法运行，无法提供正确的上下文，也无法达到我们想要的服务水平。”行业调查（https://www.deloitte.com/mt/en/Industries/technology/perspectives/Data-governance-and-AI-readiness.html）一致将数据质量列为AI成功最大的障碍之一。Adil表示：“数据质量必须良好；否则用户会对系统失去信心。” 有效的AI策略始于连接整个组织的数据，确保数据实时组织、准确、受治理且可访问。这些考虑因素最好从一开始就融入模型和架构中。可扩展的数据架构使AI系统能够随业务一起演进，并可靠地连接到交付有意义价值所需的内部信息。 Gartner（https://www.gartner.com/en/newsroom/press-releases/2025-02-26-lack-of-ai-ready-data-puts-ai-projects-at-risk）预测，到2026年，如果没有AI就绪数据的支持，企业将放弃60%的AI项目。避免这一结果需要明确的数据标准和所有权、干净且标注良好的数据，以及支持实时检索的数据管道。 #### 2. 利用上下文工程为每个AI查询提供正确的数据 上下文工程确保模型针对每个查询提取最相关的信息，选择和组织所需数据以高效生成准确答案。 有效的上下文工程塑造引导AI推理和行动的输入。提示工程侧重于请求的措辞方式，而上下文工程则围绕模型设计整个信息环境：检索正确的数据并以结构化、机器可读的方式呈现。许多组织发现，可靠的AI既取决于模型强度，也取决于上下文质量。 上下文工程依赖于现代化、统一的数据基础以及检索和记忆系统，如检索增强生成（RAG）和向量数据库。它还需要仔细的优先级排序，以确定哪些信息最重要、哪些应当排除，以及何时使用不同类型的信息。向模型输入过多上下文会稀释相关细节、增加成本并减慢响应速度。 Adil说：“最少的上下文、正确且最新的数据以及机器可读的信息是有效上下文工程的关键。” #### 3. 从一开始就构建AI治理和LLM可观测性 强大的治理和LLM可观测性帮助组织保持对AI系统如何使用数据的控制，监控系统性能，并在问题影响运营之前识别它们。 如果缺乏对检索、工作流和模型使用的明确控制，AI系统往往会处理比必要更多的信息。这种低效率还会因需要额外的计算资源而推高运营成本，通常体现在更高的token消耗和API费用上。 治理还与强大的安全性协同工作。AI扩大了攻击面，引入了基于提示的数据泄露、模型漏洞和对抗性输入等风险。保护敏感信息需要强大的访问控制、监控和监督。 Adil指出，基本控制——包括安全、精细成本管理、项目控制、数据安全和架构——往往不足。 为了让治理系统支持透明、合规、可信且成本效益高的AI，组织不能将其留待以后添加。治理结构需要从一开始就嵌入到架构、工作流和决策过程中。 当治理想一开始就建立起来时，它就能实现强大的可观测性。可观测性帮助组织了解AI应用在实际中的表现。LLM可观测性和基准测试机制使团队能够评估长期准确性和效用，监控采用模式，并根据条件变化调整系统。可观测性还通过提高模型性能、行为和故障点的可见性来帮助组织赢得信任。 此外，可观测性对于获取AI计划的ROI（https://www.elastic.co/blog/how-it-leaders-measure-roi-of-agentic-ai-initiatives?utm_source=mittechnologyreview-db&utm_medium=publisher-native&utm_campaign=cxo-mit-tr-article-gc）至关重要，因为其收益往往是间接的，业务价值在很大程度上取决于系统如何被采纳和使用。对AI行为的实时可见性使组织能够衡量性能与预期之间的差距，识别意图与现实之间的差距，并在需求演进时持续优化系统。 在Elastic（https://www.elastic.co/blog/2026-observability-trends-generative-ai-opentelemetry?utm_source=mittechnologyreview-db&utm_medium=publisher-native&utm_campaign=cxo-mit-tr-article-gc）2026年的一份报告中，85%的IT决策者预计将为内部生成式AI应用启用LLM可观测性。 Adil说：“可观测性实际上非常重要。我们可以利用可观测性数据进行成本控制、决策制定和工程效率提升。” #### 4. 让人保持在循环中 最大化AI价值的深思熟虑的设计、集成和治理需要专业化的内部专长。在Deloitte（https://www.deloitte.com/us/en/insights/topics/technology-management/tech-trends/2026/ai-future-it-function.html#endnote-7）2025年技术高管调查中，近70%的受访者计划直接因生成式AI而扩大团队，这与广泛报道的AI相关裁员形成鲜明对比。Adil同意这一点：“我们认为人的因素在很大程度上将决定AI未来的影响力。” 随着AI系统在运营中变得更加深入，组织需要能够治理工作流、评估输出、重新设计流程并在条件变化时适应系统的人。向日益自治的工具演进需要团队具备提示工程、编排和变更管理方面的技能。 擅长批判性思维并准备好适应技术快速进步的人才将备受追捧。虽然人员流动带来新思维，但也给系统连续性、机构理解和创新带来高昂成本。以人为中心的策略需要嵌入到AI执行阶段，以确保顺利实施。 正如Adil所说：“栈的许多方面变化非常非常快，但机构知识和适应能力仍然是持久的。” ### 面向未来增长的精明AI投资 随着AI系统从单任务助手演变为日益自治的智能体，那些投资于使AI大规模可靠的底层系统、治理和专长的组织将获得最大收益。 专注于这些基础要素的技术领导者可以在中期内有效从实验阶段过渡到可靠的生产级部署，并确信这些要素在持续进步中仍将保持相关性和适应性。 Adil说：“我们从根本上相信，有了这些工具，工作速度将大大加快。我们真正关注的是如何以前所未有的方式使用这些工具来完成工作。” *了解更多关于Elastic如何利用这些核心基础组件构建AI优先的企业（https://www.elastic.co/resources/article/ai-first-enterprise-internal-playbook?utm_source=mittechnologyreview-db&utm_medium=publisher-native&utm_campaign=cxo-mit-tr-article-gc）。* *本内容由MIT Technology Review的定制内容部门Insights制作，并非MIT Technology Review编辑团队撰写。它由人类作家、编辑、分析师和插画师研究、设计和编写。包括调查的编写和数据的收集。可能使用的AI工具仅限于经过彻底人工审核的次级生产流程。*