An ensemble online learning-based approach for VNF scaling in the Edge Computing

Edge Computing (EC) platforms have emerged as essential solutions for managing applications with high computational demands and strict response time requirements. These platforms capitalize on the decentralized nature of edge devices, which are situated close to end-users and data sources, thus mi...

ver descrição completa

Na minha lista:
Detalhes bibliográficos
Autor principal: Silva, Thiago Pereira da
Outros Autores: Batista, Thais Vasconcelos
Formato: doctoralThesis
Idioma:pt_BR
Publicado em: Universidade Federal do Rio Grande do Norte
Assuntos:
Endereço do item:https://repositorio.ufrn.br/handle/123456789/56544
Tags: Adicionar Tag
Sem tags, seja o primeiro a adicionar uma tag!
id ri-123456789-56544
record_format dspace
institution Repositório Institucional
collection RI - UFRN
language pt_BR
topic Computação
Autodimensionamento
Computação de borda
Edge Computing
Aprendizado de máquina online
Funções de redes virtualizadas
Computação autonômica
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::SISTEMAS DE COMPUTACAO
spellingShingle Computação
Autodimensionamento
Computação de borda
Edge Computing
Aprendizado de máquina online
Funções de redes virtualizadas
Computação autonômica
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::SISTEMAS DE COMPUTACAO
Silva, Thiago Pereira da
An ensemble online learning-based approach for VNF scaling in the Edge Computing
description Edge Computing (EC) platforms have emerged as essential solutions for managing applications with high computational demands and strict response time requirements. These platforms capitalize on the decentralized nature of edge devices, which are situated close to end-users and data sources, thus minimizing constraints such as bandwidth consumption, network congestion, response time, and operational costs imposed by cloud providers. To enhance service provisioning agility and reduce infrastructure deployment costs, EC platforms frequently leverage technologies such as Network Functions Virtualization (NFV). NFV facilitates the decoupling of hardware and network functions through virtualization technologies, with network functions implemented as Virtual Network Functions (VNFs) software entities. Network or even higher layers functions are implemented as Virtual Network Functions (VNFs) software entities. The integration of EC and NFV paradigms, as proposed by ETSI MEC, enables the creation of an ecosystem for 5G applications. Such integration allows the creation of VNF chains, representing end-to-end services for end-users and their deployment on edge nodes. A Service Function Chaining (SFC) comprises a set of VNFs chained together in a given order, where each VNF can be running on a different edge node. The main challenges in this environment concern the dynamic provisioning and deprovisioning of distributed resources to run the VNFs and meet application requirements while optimizing the cost to the infrastructure provider. In this sense, scaling VNFs in this environment represents creating new containers or virtual machines and reallocating resources to them due to the variation in the workload and dynamic nature of the EC environment. This work introduces an innovative approach for dynamically scaling VNFs in the EC environment, employing a hybrid auto-scaling technique. This approach integrates an ensemble machine-learning technique that consists of different online machine-learning models to predict workload. It follows the MAPE-K (Monitor-AnalyzePlan-Execute over a shared Knowledge) control loop abstraction to dynamically adjust resource allocation in response to workload changes. This approach is innovative because it proactively predicts the workload to anticipate scaling actions and behaves reactively when the prediction model does not meet the desired quality. In addition, the proposal requires no prior knowledge of the data’s behavior, making it suitable for use in different contexts. This work also proposes an algorithm to scale the VNF instances in the edge computing environment that uses a strategy to define how many resources to allocate or deallocate to a VNF instance during a scaling action. Finally, the ensemble method and the proposed algorithm are evaluated, comparing prediction performance and the amount of scaling actions and SLA violations.
author2 Batista, Thais Vasconcelos
author_facet Batista, Thais Vasconcelos
Silva, Thiago Pereira da
format doctoralThesis
author Silva, Thiago Pereira da
author_sort Silva, Thiago Pereira da
title An ensemble online learning-based approach for VNF scaling in the Edge Computing
title_short An ensemble online learning-based approach for VNF scaling in the Edge Computing
title_full An ensemble online learning-based approach for VNF scaling in the Edge Computing
title_fullStr An ensemble online learning-based approach for VNF scaling in the Edge Computing
title_full_unstemmed An ensemble online learning-based approach for VNF scaling in the Edge Computing
title_sort ensemble online learning-based approach for vnf scaling in the edge computing
publisher Universidade Federal do Rio Grande do Norte
publishDate 2023
url https://repositorio.ufrn.br/handle/123456789/56544
work_keys_str_mv AT silvathiagopereirada anensembleonlinelearningbasedapproachforvnfscalingintheedgecomputing
AT silvathiagopereirada ensembleonlinelearningbasedapproachforvnfscalingintheedgecomputing
_version_ 1790055666524618752
spelling ri-123456789-565442023-12-20T20:25:49Z An ensemble online learning-based approach for VNF scaling in the Edge Computing Silva, Thiago Pereira da Batista, Thais Vasconcelos https://orcid.org/0000-0003-3558-1450 http://lattes.cnpq.br/5521922960404236 Delicato, Flávia Coimbra Lopes, Frederico Araújo da Silva http://lattes.cnpq.br/9177823996895375 Cacho, Nelio Alessandro Azevedo Pires, Paulo de Figueiredo Computação Autodimensionamento Computação de borda Edge Computing Aprendizado de máquina online Funções de redes virtualizadas Computação autonômica CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::SISTEMAS DE COMPUTACAO Edge Computing (EC) platforms have emerged as essential solutions for managing applications with high computational demands and strict response time requirements. These platforms capitalize on the decentralized nature of edge devices, which are situated close to end-users and data sources, thus minimizing constraints such as bandwidth consumption, network congestion, response time, and operational costs imposed by cloud providers. To enhance service provisioning agility and reduce infrastructure deployment costs, EC platforms frequently leverage technologies such as Network Functions Virtualization (NFV). NFV facilitates the decoupling of hardware and network functions through virtualization technologies, with network functions implemented as Virtual Network Functions (VNFs) software entities. Network or even higher layers functions are implemented as Virtual Network Functions (VNFs) software entities. The integration of EC and NFV paradigms, as proposed by ETSI MEC, enables the creation of an ecosystem for 5G applications. Such integration allows the creation of VNF chains, representing end-to-end services for end-users and their deployment on edge nodes. A Service Function Chaining (SFC) comprises a set of VNFs chained together in a given order, where each VNF can be running on a different edge node. The main challenges in this environment concern the dynamic provisioning and deprovisioning of distributed resources to run the VNFs and meet application requirements while optimizing the cost to the infrastructure provider. In this sense, scaling VNFs in this environment represents creating new containers or virtual machines and reallocating resources to them due to the variation in the workload and dynamic nature of the EC environment. This work introduces an innovative approach for dynamically scaling VNFs in the EC environment, employing a hybrid auto-scaling technique. This approach integrates an ensemble machine-learning technique that consists of different online machine-learning models to predict workload. It follows the MAPE-K (Monitor-AnalyzePlan-Execute over a shared Knowledge) control loop abstraction to dynamically adjust resource allocation in response to workload changes. This approach is innovative because it proactively predicts the workload to anticipate scaling actions and behaves reactively when the prediction model does not meet the desired quality. In addition, the proposal requires no prior knowledge of the data’s behavior, making it suitable for use in different contexts. This work also proposes an algorithm to scale the VNF instances in the edge computing environment that uses a strategy to define how many resources to allocate or deallocate to a VNF instance during a scaling action. Finally, the ensemble method and the proposed algorithm are evaluated, comparing prediction performance and the amount of scaling actions and SLA violations. Recentemente, foram propostas plataformas de computação de borda (do inglês Edge Computing) para gerenciar aplicações emergentes com alta carga computacional e baixos requisitos de tempo de resposta. De modo a proporcionar mais agilidade e flexibilidade na prestação de serviços e, em simultâneo, reduzir os custos de implantação para os provedores de infraestrutura, tecnologias como a Virtualização das Funções de Rede (NFV, do inglês Network Functions Virtualization) são frequentemente utilizadas em ambientes de produção na borda da rede. NFV promove o desacoplamento de hardware e funções de rede usando tecnologias de virtualização, permitindo que elas funcionem em máquinas virtuais ou contêineres como software. As funções de rede ou mesmo funções de camadas superiores são implementadas como entidades de software chamadas Funções de Rede Virtual (VNFs, do inglês Virtual Network Functions). A integração dos paradigmas de Computação de Borda e NFV, como proposto pelo ETSI MEC, permite a criação de um ecossistema para aplicações 5G. Tal integração permite a criação de cadeias de VNF, representando serviços ponta a ponta para os usuários finais e sua implantação em nós de borda. Uma cadeia de funções de serviço (SFC, do inglês Service Function Chaining) compreende um conjunto de VNFs encadeadas em uma determinada ordem, onde cada VNF pode ser executada em um nó de borda diferente. Os principais desafios neste ambiente dizem respeito ao provisionamento dinâmico e ao desprovisionamento de recursos distribuídos na borda para executar as VNFs e atender às exigências da aplicação, otimizando o custo para o fornecedor da infraestrutura. Este trabalho apresenta uma abordagem híbrida de dimensionamento automático para o dimensionamento dinâmico das VNFs no ambiente de computação de borda. Tal abordagem de autodimensionamento emprega uma técnica de aprendizagem de máquinas em conjunto on-line que consiste no agrupamento de diferentes modelos de aprendizagem de máquinas on-line que preveem a carga de trabalho futura das VNFs. A arquitetura da abordagem proposta segue a abstração do MAPE-K (do inglês Monitor-Analyze-Plan-Execute over a shared Knowledge ) para ajustar dinamicamente o número de recursos em resposta às mudanças de carga de trabalho. Esta abordagem é inovadora porque prevê proativamente a carga de trabalho para antecipar ações de dimensionamento e se comporta de forma reativa quando o modelo de predição não atende a uma qualidade desejada. Além disso, a solução proposta nesse trabalho não requer nenhum conhecimento prévio do comportamento dos dados, o que a torna adequado para uso em diferentes contextos. Esse trabalho também apresenta um algoritmo para dimensionar as instâncias de VNF, utilizando uma estratégia para definir quantos recursos devem ser alocados ou desalocados durante uma ação de dimensionamento. Finalmente, apresentamos uma avaliação do método de aprendizado por agrupamento e do algoritmo proposto, comparando o desempenho das predições e a quantidade de ações de dimensionamentos e violações do Acordo de Nível de Serviço (SLA, do inglês Service Level Agreement). 2023-12-20T20:25:07Z 2023-12-20T20:25:07Z 2023-09-15 doctoralThesis SILVA, Thiago Pereira da. An ensemble online learning-based approach for VNF scaling in the Edge Computing. Orientadora: Dra. Thais Vasconcelos Batista. 2023. 129f. Tese (Doutorado em Ciência da Computação) - Centro de Ciências Exatas e da Terra, Universidade Federal do Rio Grande do Norte, Natal, 2023. https://repositorio.ufrn.br/handle/123456789/56544 pt_BR Acesso Aberto application/pdf Universidade Federal do Rio Grande do Norte Brasil UFRN PROGRAMA DE PÓS-GRADUAÇÃO EM SISTEMAS E COMPUTAÇÃO