Optimal resource orchestration of distributed 5G applications over the cloud continuum

Abstract

The rapid advancement of fifth-generation (5G) wireless network technology has enabled a wide range of innovative applications with diverse requirements, including ultra-low latency, high reliability, and scalability, especially in the context of Internet-of-Things (IoT). To effectively support these applications, efficient resource management and orchestration are crucial. The Cloud Continuum (CC), which encompasses heterogeneous network infrastructures ranging from centralized cloud data centers to edge devices, offers a distributed computing and networking environment to meet the specific needs of 5G IoT applications deployment. However, orchestrating resources in this complex setting poses significant challenges. This thesis aims to address these challenges by proposing novel approaches for the management and orchestration (MANO) of computing and network resources and the CC layers, aligned with established frameworks like the European Telecommunications Standards Institute - Network Functions Virtualization (ETSI-NFV), in several aspects of the application's life-cycle, striving to strike a balance between the objectives of all the involved stakeholders. Focusing on enabling the efficient deployment of emerging 5G services, optimized resource allocation, and enhanced overall application performance and Quality of Service (QoS), in this dissertation, the following challenges are tackled: (i) the infrastructure selection for network service deployment in the cloud continuum by taking into account the differences between infrastructure capabilities and the plethora of various individual requirements, (ii) the establishment of the Cross-Service Communication (CSC) and the Network Service Marketplace (NSM) to enable Virtual Network Function (VNF) sharing to further improve the resource utilization and enhance the QoS, (iii) distributed the virtual network embedding, to support modern IoT applications, which composed as interconnected VNFs, deployed distributed in the cloud continuum ecosystem, in the form of a hybrid Service Function Chain (hSFC), under strict resource capacity constraints, and (iv) design efficient and low-complexity algorithms to provide solutions to the corresponding problems, meeting the need for real-time decision making and re-optimization of such a dynamic environment. In this context, initially, this work proposes an Edge Cloud (EC) Selection framework for network service deployment, focusing on network slices. It introduces a distributed service discovery framework for shared-enabled VNFs using a cache-based protocol, in order to effectively identify the demanded VNFs while eliminating the communication overhead. The framework, also, utilizes a Multi-Criteria Decision Making (MCDM) algorithm, specifically, the Analytical Hierarchy Process (AHP), to identify the most suitable edge infrastructure for Network Slice deployment in a low execution time, considering the functional, performance, and cost requirements of both the infrastructure provider and the user. In addition, focusing on the QoS guarantees for IoT-based application deployment, where delay minimization plays a crucial role, a two-stage approach to provide distributed virtual network embedding (DVNE) solutions with minimized round-trip delay is introduced. Initially, a heuristic undertakes the association of VNFs of a Virtual Network Embedding (VNE) request; namely mapping, to a set of candidate ECs that can be hosted, while focusing on the minimization of the resource utilization within the EC infrastructure and increased co-location ratio between adjacent VNFs of the request. Given this initial mapping, an efficient path-based algorithm is proposed to construct the DVNE solution, in polynomial time. Based on graph theory, an augmented graph is constructed, on which several candidate paths for the DVNE are generated, using the k-shortest-paths algorithm. The embedding policy of the algorithm constructs optimal, or near-optimal solutions in polynomial time. Moreover, to ensure the compatibility and interoperability of some of the proposed mechanisms with existing industry standards and practices, the integration of the proposed mechanisms and algorithms into a MANO architecture is considered, to support Industry 4.0 application deployments. Extending the standard ETSI NFV reference architecture, a deployment and orchestration mechanism for enabling CSC in industrial environments is proposed. For evaluation purposes, a Warehouse Robotics use case, which requires the collaboration of mobile robotic agents in an automated storage and retrieval system, is used. Emphasizing the dynamic characteristics of CC, this thesis, finally, delves into the intricacies of dynamic resource allocation and autoscaling techniques. To this end, a multi-objective optimization mechanism for autoscaling has been developed. This mechanism leverages a multifaceted approach by integrating time series forecasting methods, specifically Auto-regressive Integrated Moving Average (ARIMA), to predict the incoming workload to applications' virtualized resources (containers) in the forthcoming time periods. Additionally, it incorporates the element of resource profiling per application, enabling the selection of the optimal application deployment, in terms of the number of identical replicas of containers. The primary objective of this mechanism is to strike a balance between the QoS guarantees for a given application, and, simultaneously, the mitigation of the administrative overhead for infrastructure providers by concurrently minimizing the overall energy consumption and resource utilization.

Η ταχεία πρόοδος της τεχνολογίας ασύρματων δικτύων πέμπτης γενιάς (5G) έχει επιτρέψει την ανάπτυξη ενός ευρέος φάσματος καινοτόμων εφαρμογών, οι οποίες φέρουν ξεχωριστές απαιτήσεις που αφορούν την ποιότητα της υπηρεσίας (Quality of Service - QoS), όπως εξαιρετικά χαμηλή καθυστέρηση, υψηλή αξιοπιστία και ελαστικότητα, ειδικά υπό το πρίσμα του Διαδικτύου των Αντικειμένων (Internet of Things - IoT). Για την αποδοτικότερη υποστήριξη αυτών των εφαρμογών, η αποτελεσματική διαχείριση και ενορχήστρωση των υπολογιστικών και δικτυακών πόρων, είναι ιδιαίτερα σημαντική. Το Cloud Continuum (CC), το οποίο περιλαμβάνει ετερογενείς δικτυακές υποδομές που κυμαίνονται από κεντρικοποιημένες υποδομές σύννεφου έως κατανεμημένες στην άκρη του δικτύου, προσφέρει ένα κατανεμημένο περιβάλλον υπολογιστικών και δικτυακών πόρων για την κάλυψη των ειδικών χαρακτηριστικών ανάπτυξης εφαρμογών 5G-IoT. Ωστόσο, η ενορχήστρωση πόρων σε αυτό το πολύπλοκο περιβάλλον θέτει σημαντικές προκλήσεις. Αυτή η διατριβή στοχεύει να αντιμετωπίσει αυτές τις προκλήσεις προτείνοντας νέες προσεγγίσεις για τη διαχείριση και την ενορχήστρωση των υπολογιστικών και δικτυακών πόρων στα διάφορα επίπεδα του CC, ευθυγραμμισμένες με καθιερωμένα πρότυπα, όπως της Εικονικοποίησης Λειτουργιών Δικτύου (Network Function Virtualization - NFV). Συγκεκριμένα, στη διατριβή αντιμετωπίζονται οι εξής προκλήσεις: (i) η επιλογή της κατάλληλης υποδομής για την ανάπτυξη υπηρεσιών δικτύου στο CC, λαμβάνοντας υπόψη την ετερογένεια των υποδομών και την πληθώρα των διαφόρων επιμέρους απαιτήσεων εφαρμογής, (ii) η εγκαθίδρυση αλληλεπίδρασης μεταξύ διαφορετικών υπηρεσιών που αναπτύσσονται ως δικτυακά τεμάχια μέσω κοινής χρήσης εικονικών συναρτήσεων δικτύου (Virtual Network Function – VNF), (iii) η κατανεμημένη ενσωμάτωση εικονικού δικτύου (Distributed Virtual Network Embedding - DVNE), για την υποστήριξη σύγχρονων εφαρμογών IoT που αναπτύσσονται ως διασυνδεδεμένα VNF, στη μορφή μιας υβριδικής αλυσίδας υπηρεσιών, υπό αυστηρούς περιορισμούς διαθεσιμότητας πόρων, (iv) η ανάπτυξη λύσεων για αυτόματη κλιμάκωση πόρων προς τη βελτιστοποίηση της διαχείρισης αυτών σε πραγματικό χρόνο, λαμβάνοντας υπόψη το απαιτούμενο φορτίο προς τα εικονικά μηχανήματα κάθε εφαρμογής, και (v) ο σχεδιασμός και η ανάπτυξη αποτελεσματικών και χαμηλής πολυπλοκότητας αλγορίθμων για να παρέχουν λύσεις στα αντίστοιχα προβλήματα, σε πραγματικό χρόνο, ώστε να ανταποκρίνονται στις δυναμικές συνθήκες του CC. Σε αυτό το πλαίσιο, αρχικά, προτείνεται ένα πλαίσιο Επιλογής Υποδομής στα άκρα του Δικτύου (Edge Cloud - EC) για την ανάπτυξη εφαρμογών 5G, εστιάζοντας στην περίπτωση δικτυακών τεμαχίων. Προς αυτή την κατεύθυνση, αναπτύσσεται ένα Πλαίσιο Αναζήτησης Κατανεμημένων Υπηρεσιών για VNF, τα οποία υποστηρίζουν διατεμαχιακή επικοινωνία χρησιμοποιώντας ένα πρωτόκολλο που βασίζεται στην προσωρινή κρυφή μνήμη των επιμέρους EC, στοχεύοντας στην χαμηλή χρήση δικτυακών πόρων. Το πλαίσιο αυτό, επίσης, χρησιμοποιεί έναν πολυκριτηριακό αλγόριθμο λήψης αποφάσεων, για να προσδιορίσει την καταλληλότερη υποδομή EC για την ανάπτυξη δικτυακού τεμαχίου με χαμηλό χρόνο απόφασης, λαμβάνοντας υπόψη τη λειτουργικότητα, την απόδοση και απαιτήσεις κόστους τόσο του παρόχου της υποδομής όσο και του χρήστη της εφαρμογής. Επιπλέον, η διατριβή προτείνει μια προσέγγιση δύο επιπέδων για την παροχή λύσεων DVNE με ελαχιστοποιημένη καθυστέρηση δικτυακής κίνησης μετ' επιστροφής. Ένας ευριστικός αλγόριθμος, αρχικά, αναλαμβάνει τη συσχέτιση των VNF ενός αιτήματος DVNE, σε ένα σύνολο υποψήφιων EC που αυτά θα μπορούν να ενσωματωθούν, εστιάζοντας στην ελαχιστοποίηση της χρήσης πόρων εντός της κάθε υποδομής EC. Δεδομένης αυτής της αρχικής χαρτογράφησης, προτείνεται ένας αποτελεσματικός αλγόριθμος βασισμένος σε λύσεις συντομότερων μονοπατιών, για την κατασκευή της λύσης DVNE, σε πολυωνυμικό χρόνο. Η πολιτική ενσωμάτωσης του αλγορίθμου κατασκευάζει βέλτιστες ή σχεδόν βέλτιστες λύσεις DVNE σε πολυωνυμικό χρόνο.Ακόμη, για να εξασφαλιστεί η συμβατότητα και η διαλειτουργικότητα ορισμένων από τους προτεινόμενους μηχανισμούς με τα υπάρχοντα βιομηχανικά πρότυπα και πρακτικές, εξετάζεται η ενσωμάτωση των προτεινόμενων μηχανισμών και αλγορίθμων σε μια αρχιτεκτονική NFV, για την υποστήριξη της ανάπτυξης εφαρμογών βιομηχανίας 4.0 (Industry 4.0). Προτείνεται ένας μηχανισμός ανάπτυξης και ενορχήστρωσης για την ενεργοποίηση διατεμαχιακής επικοινωνίας σε βιομηχανικά περιβάλλοντα. Για λόγους αξιολόγησης, αναπτύσσεται ένα σενάριο χρήσης Warehouse Robotics, στο οποίο απαιτείται η συνεργασία κινητών ρομποτικών συσκευών σε ένα αυτοματοποιημένο σύστημα αποθήκευσης και ανάκτησης. Δίνοντας έμφαση στα δυναμικά χαρακτηριστικά του CC, στην παρούσα διατριβή μελετώνται και τεχνικές κατανομής πόρων και αυτόματης κλιμάκωσης (autoscaling). Υπό αυτό το πρίσμα, αναπτύχθηκε ένας μηχανισμός πολυκριτηριακής βελτιστοποίησης για autoscaling, ο οποίος συνδυάζει την πρόβλεψη του αναμενόμενου φορτίου μέσω μεθόδων πρόβλεψης χρονοσειρών, αλλά και την εκ των προτέρων χαρακτηρισμό πόρων ανά εφαρμογή, ώστε να επιλέξει τον αριθμό των αντιγράφων εικονικών μηχανημάτων (containers) σε περιβάλλον Kubernetes. Σκοπός του μηχανισμού είναι να συνδυάσει την εγγύηση ποιότητας υπηρεσίας μιας εφαρμογής, αντιστοιχώντας τη στη χρονική απόκριση, μειώνοντας παράλληλα το διαχειριστικό κόστος του παρόχου της υποδομής και τη συνολική κατανάλωση ενέργειας. Οι προσεγγίσεις που προτείνονται αξιολογούνται αναλυτικά τόσο μέσω προσομοίωσης όσο και μέσω ενσωμάτωσής τους σε σύγχρονες λύσεις διαχείρισης και ενορχήστρωσης, ενώ παρέχονται συγκριτικά αποτελέσματα έναντι άλλων λύσεων από την υπάρχουσα πρόσφατη βιβλιογραφία. Τα συμπεράσματα που εξάγονται από τη θεωρητική και πειραματική αξιολόγηση των προτεινομένων πλαισίων συνοψίζονται στο καταληκτικό κεφάλαιο της διατριβής, όπου επιπλέον, αναπτύσσονται ανοιχτά ερευνητικά θέματα για μελλοντική εργασία.