意图引擎：在计算连续体中用于意图驱动编排的自然语言意图翻译

# 意图引擎：计算连续体中面向意图驱动编排的自然语言意图翻译
来源：https://arxiv.org/html/2608.20388 \[orcid=0009\-0003\-4619\-7873\]\\cormark\[1\] \\credit 概念构思、研究、方法论、数据整理、软件、可视化、撰写\-初稿 1\]organization=西悉尼大学, city=彭里斯, state=新南威尔士州, country=澳大利亚 \[orcid=0000\-0001\-7435\-2445\] \\credit 概念构思、方法论、撰写\-审阅与编辑 \\cortext \[cor1\]通讯作者 Rodrigo N\. Calheirosr\.calheiros@westernsydney\.edu\.au
###### 摘要
计算连续体中的微服务放置通常由底层服务级目标驱动，但要求用户指定指标级约束会形成采用障碍并增加配置错误风险。尽管大语言模型能够解释自然语言意图，但由于约束不支持、基础值错误及模式违规等问题，直接生成可供编排使用的SLO制品仍然不可靠。这些错误可能传播至下游放置逻辑，导致不可行或错误的放置结果。本文提出*意图引擎*——一种自然语言意图翻译架构，可构建经验证的SLO制品用于计算连续体服务放置。*意图引擎*作为现有意图驱动编排与放置框架的意图获取和SLO构建层；其本身不执行放置或运行时QoS优化。该架构结合了模式约束提取、从监控基础设施状态进行检索基础值构建，以及在最终SLO制品输出前对支持约束的验证。我们使用来自边缘-云测试平台的716条意图-SLO记录（包含有效和无效意图）评估*意图引擎*。在GPT\-4\.1 mini、Claude Sonnet 4\.5和DeepSeek V4\-Flash模型上，*意图引擎*优于提示基线及非LLM规则解析器。使用GPT\-4\.1 mini时，其总体F1分数达到0\.941，聚合幻觉减少85\.1%，同时将下游放置失败率从30\.8%降低至2\.1%。
###### 关键词：意图驱动编排\\sep服务放置\\sep微服务\\sep服务级目标 (SLOs)\\sep边缘-云连续体\\sep大语言模型 (LLM)
\{highlights\}
将自然语言服务放置意图转换为可供编排使用的服务级目标制品。
提供基于检索增强和模式约束的LLM意图到规范构建。
减少表达服务目标时对专业分布式系统知识的依赖。
支持与意图驱动放置算法和编排框架的灵活集成。
## 1引言
软件应用推动了向*微服务*的范式转变，使其具备更好的可扩展性、灵活性、弹性和更快的交付速度。通过将软件分解为独立部署的组件，微服务支持动态扩展、快速上线和降低延迟。现代基于微服务的系统主要依赖云基础设施实现可扩展性、成本效益和可用性；然而，由于地理接近用户的能力有限，集中式数据中心会引入网络延迟。这一限制催生了边缘计算的出现。边缘计算通过在更靠近数据源的位置实时处理数据来缓解延迟。但与云环境相比，边缘的资源限制了其可扩展性、计算能力和可用性。为平衡这些权衡，*计算连续体*整合了边缘和云资源，支持跨异构基础设施的微服务部署。计算连续体涵盖终端、边缘和云层，通过分布式服务降低延迟，同时提高吞吐量和可扩展性。在此环境中，微服务放置对于满足用户需求（如低延迟、高可用性、存储效率和服务质量）至关重要。直播、AI推理和数字广告等应用对这些放置决策尤为敏感。服务级目标通常用于指导跨地理分布式资源的放置。然而，低级SLO规范对缺乏系统专业知识的用户构成了重大障碍。配置错误的放置可能导致QoS违规、服务中断和意外成本。鉴于连续体环境的复杂性和动态性，精确的放置决策对于可靠运行至关重要。
意图驱动编排通过允许用户表达高级目标或意图（描述期望结果而非具体配置）来解决这一挑战。受基于意图的网络启发，IDO自主将这些目标转化为操作行为，抽象低级系统细节并减轻管理负担。这种抽象降低了专业知识门槛，并促进了跨异构资源的可扩展编排。
尽管有这些优势，现有编排框架通常接受结构化SLO规范作为意图，而非非结构化自然语言。用户仍需提供精确的指标和系统参数，这需要领域知识并增加了配置错误的风险，尤其是在动态和异构条件下。
大型预训练语言模型和大语言模型的最新进展在自然语言理解和推理方面展现出强大能力。这些能力表明LLM可能将人类可读的意图转化为可供编排框架使用的正式SLO规范，从而简化运维和DevOps从业者的任务放置。然而，使用LLM生成系统关键规范会引入新的风险。LLM易产生幻觉，输出偏离用户意图或上下文正确性。在放置决策中，此类错误可能导致无效配置或系统故障。由于连续体资源动态波动，纯生成式翻译缺乏可靠控制所需的保证。在我们之前的工作*MicroIntent*中，我们发现基于LLM的端到端自然语言放置意图翻译可能产生幻觉或错误的SLO约束，即使提供了上下文信息。这在计算连续体中是有问题的，因为波动的资源状态需要可靠且有依据的控制平面规范，而非仅基于提示的生成。这些发现表明，完全依赖端到端LLM推理可能导致配置错误、用户意图违规和意外系统影响。
基于这些见解，我们认为自然语言意图翻译是一个与典型生成式语言任务不同的控制平面规范构建问题。当前IDO框架需要结构化SLO输入，而用户通常以不完整、模糊或依赖上下文的细节表达放置意图。可靠的获取层必须解析意图，将依赖上下文的需求基于监控的基础设施状态进行基础化，根据支持的模式检查结果，并仅输出经验证的SLO制品供下游编排使用。
在本文中，我们提出*意图引擎*——一种自然语言意图翻译架构，可将服务放置意图转换为可供现有IDO和放置框架使用的平台无关SLO规范。*意图引擎*作为意图获取和SLO构建层：生成经验证的SLO制品以驱动准确的意图驱动下游编排。由于不准确的翻译可能直接导致不可行或错误的放置，我们的评估测量翻译正确性、基础化准确性、幻觉减少率、无效意图拒绝率、延迟、可扩展性以及下游放置影响。本文的主要贡献如下：
- • 引入*意图引擎*——一个将自然语言服务放置意图转换为经验证、可供编排使用的SLO制品的意图获取系统。
- • 设计多阶段SLO构建流水线，分离语义提取、中间SLO表示、基础设施感知基础化和模式验证。
- • 引入基础设施感知基础化，用于从监控的计算连续体状态解析隐式约束（如最高或最低资源值）。
- • 使用约束级F1分数、精确匹配、Jaccard相似度、幻觉率、无效意图拒绝、上下文检索消融、延迟、可扩展性和下游放置失败影响评估*意图引擎*。
- • 发布来自真实计算连续体测试平台的716条意图-SLO记录，涵盖有效、模糊、冲突、格式错误和不受支持的意图。
由于*意图引擎*侧重于语言翻译，放置、部署或运行时QoS优化等任务不在本文范围内。
本文其余部分结构如下：第2节回顾现有工作；第3节介绍*意图引擎*架构；第4节描述实现和计算连续体测试平台；第5节评估SLO构建准确性、基础化有效性、幻觉减少、故障处理、系统开销和下游放置影响；第6节讨论局限性；第7节总结全文并展望未来工作。
## 2相关工作
### 2\.1计算连续体中的意图驱动编排
意图驱动编排已成为一种现代范式，通过服务级目标实现解耦的应用管理，减少管理和运营开销。在IDO中，意图表达高级策略或业务目标，允许用户指定系统应*实现什么*，而编排逻辑自主确定*如何实现*。人工智能和机器学习的进步进一步支持这一愿景，通过自动化管理日益复杂和动态的计算连续体资源。
尽管有这些优势，跨地理分布式边缘-云环境的服务放置仍具挑战，原因在于系统状态波动、资源权衡以及必须满足服务意图的成本约束。传统的基于Kubernetes的编排缺乏原生的意图中心抽象，通常需要频繁的手动干预和专业技能，限制了其适应动态连续体条件的能力。多项研究扩展了Kubernetes和KubeEdge以自动化跨连续体部署。然而，这些解决方案仍依赖于详细的低级配置和大量操作员参与。在企业规模下，管理众多相互依赖的服务变得越来越复杂，即使对于经验丰富的管理员，基于瞬态系统状态的放置决策仍然困难。
### 2\.2意图规范与获取方法
传统的意图获取方法通常要求用户直接指定低级SLO以指导资源分配，这为缺乏系统配置专业知识的用户设置了障碍。Sebrecht等人提出接受结构化意图并将其解析为工作流的雾网格，同时考虑用户位置和工作流约束以确保QoS。但该系统不支持自然语言意图表达，对非专业用户仍存在进入壁垒。Spillner等人探索使用高级业务目标在计算连续体中进行微服务控制。他们的方法调整已部署服务的资源以维持性能目标，但不基于用户意图确定或推荐服务放置。Morichetta等人研究服务器less环境中的负载平衡、成本效益和功能协调，使用利益相关者定义的意图。虽然该工作提及基于语言模型的翻译，但最终要求用户提供显式SLO而非自然语言规范。他们后续的inCoord框架进一步表明，云边缘连续体中的应用级意图可分解为计算、网络和存储领域的特定目标。Filinis等人提出意图驱动编排框架，用户通过关键词和元数据（如约束和目标）提供意图描述。这种对结构化参数和低级配置的依赖限制了经验较少用户的可访问性。Akbari等人引入*iContinuum*——一个意图驱动仿真工具包，提供现实测试平台以评估用户定义指标（如延迟、隐私和能耗）下的放置策略。该框架侧重于放置机制的基准测试，而非将自然语言意图转化为可操作规范。Metsch等人提出面向云原生部署的编排架构，用户通过结构化Kubernetes自定义资源定义声明目标，指定显式关键性能指标和SLO目标。然后规划器将这些形式规范转化为扩缩容和调优操作。虽然该方法有效执行预定义目标，但假设用户已提供精确的指标级输入，而非从非结构化自然语言意图推导规范。Sedlak等人使用从运行时指标学习的贝叶斯网络，将微服务管道中的形式化高级SLO扩散为低级SLO和参数分配。但由于其接受形式化目标作为SLO，因此未解决从非结构化自然语言意图翻译经验证的放置目标的问题。
### 2\.3基于自然语言的意图翻译
为减少低级系统编排所需专业知识，近期研究探索了将人类可读意图转化为传统IDO框架可使用的形式化SLO规范的自然语言意图接口。Jacobs等人引入*LUMI*——一个基于聊天的接口，使用基于词嵌入的传统命名实体识别流程将自然语言网络意图转化为低级配置。