基于多专家共识机制的无服务器环境自动缩放方法
摘要
本文提出了一种面向无服务器环境的依赖感知自动缩放框架,集成了基于图的瓶颈识别、通过概率集成的多模型预测(MLP、LSTM、CNN)以及成本感知的缩放控制。实验表明,预测准确率达到99.88%,并降低了基础设施成本。
arXiv:2607.15511v1 Announce Type: cross
摘要:无服务器计算提供了自动资源管理和按需付费执行,但由于动态工作负载、冷启动延迟以及函数间的依赖关系,有效的自动缩放仍然具有挑战性。我们提出了一种依赖感知的自动缩放框架,集成了基于图的瓶颈识别、短期工作负载预测、多模型共识和成本感知的缩放控制。将无服务器应用表示为有向依赖图,并使用加权度中心性识别结构上重要的函数。使用轻量级MLP、LSTM和CNN模型预测资源需求。它们的输出通过受贝叶斯模型平均启发的性能加权概率集成进行组合。控制器进一步融合了冷启动感知和成本比较,以选择扩容、缩容和保持操作。使用实际工作负载轨迹的实验表明,有监督预测在自动缩放决策生成方面显著优于无监督聚类。所提出的集成方法实现了99.88%的预测准确率,并与代表性混合预测方法相比降低了预测误差。在多种云定价模型上的评估也表明,在维持性能目标的同时持续降低基础设施成本。结果表明,结合依赖分析、多专家预测和成本感知控制为无服务器自动缩放提供了一种稳健且实用的解决方案。
查看缓存全文
缓存时间: 2026/07/20 09:26
# 基于多专家共识机制的无服务器环境自动缩放方法 来源:https://arxiv.org/abs/2607.15511 查看 PDF (https://arxiv.org/pdf/2607.15511) > 摘要:无服务器计算提供了自动资源管理和按使用付费的执行模式,但由于动态工作负载、冷启动延迟以及函数间的依赖关系,有效的自动缩放仍然面临挑战。我们提出了一种依赖感知的自动缩放框架,该框架集成了基于图的瓶颈识别、短期工作负载预测、多模型共识以及成本感知的缩放控制。无服务器应用程序被表示为有向依赖图,并通过加权度中心性识别结构上重要的函数。资源需求通过轻量级 MLP、LSTM 和 CNN 模型进行预测,其输出通过一种受贝叶斯模型平均启发的性能加权概率集成方法进行组合。控制器进一步整合了冷启动感知和成本比较,以在扩容、缩容和维持现状之间做出选择。使用真实工作负载轨迹的实验表明,有监督的预测在自动缩放决策生成方面显著优于无监督聚类。所提出的集成方法实现了 99.88% 的预测准确率,并且与代表性的混合预测方法相比,减少了预测误差。跨多个云定价模型的评估也表明,在保持性能目标的同时,基础设施成本持续降低。结果表明,将依赖分析、多专家预测和成本感知控制相结合,为无服务器自动缩放提供了一种稳健且实用的解决方案。 ## 提交历史 来自:Mobina Kashaniyan \[查看邮箱 (https://arxiv.org/show-email/42728dc7/2607.15511)\] **\[v1\]** 2026年7月16日 星期四 23:48:37 UTC (3,566 KB)
相似文章
可扩展的约束多智能体强化学习:通过状态增强与一致性实现可分离动力学
本文提出了一种分布式方法,用于约束多智能体强化学习,该方法采用状态增强策略学习和对偶变量上的邻居间一致性,以在满足全局资源约束的同时实现智能体数量线性扩展。在智能电网需求响应上的实验表明,一致性协调对可行性至关重要:与集中式训练方法不同,它能够扩展到数千个智能体。
@akshay_pachaar: 无服务器 vs 本地部署 vs 边缘部署。(下次部署前必读)这三种方式是对同一个问题……
本文比较了无服务器、本地和边缘部署三种 AI 模型部署方式,指出了当前多模型服务中的低效问题。它介绍了 Superlinked Inference Engine (SIE),一个开源工具,通过动态加载和卸载权重,在单个 GPU 上服务多个模型,旨在降低成本和复杂性。
SCALE:面向智能体工作流调度的可扩展交叉注意力学习与外推方法
本文提出SCALE,一种面向智能体LLM工作流DAG的深度强化学习调度器,通过交叉注意力与结构化表示正则化,泛化至未见过的集群规模,无需重新训练即可降低响应时间。
云原生评估即服务:一种具有共形保证的可扩展AI监控的微服务架构
本文介绍了EaaS,一种云原生微服务架构,用于可扩展的AI监控,提供共形预测、校准评估、漂移检测和具有统计保证的公平性监控。
如何实现真正的无服务器GPU(20分钟阅读)
Modal介绍了他们开发的四个关键要素,可在几秒而非几分钟内启动无服务器GPU推理副本,从而实现对多变AI工作负载的高效GPU分配。