Τεχνολογίες και μηχανισμοί μοντελοποίησης και πρόβλεψης απόδοσης υπηρεσιοστρεφών εφαρμογών και υποδομών

Abstract

The advent of service oriented infrastructures providing software and hardware as a service has rendered feasible the utilization of the latter by external users in the form of pay-per-use resources. In order to ensure the demanded quality of service during the provisioning of these resources, a multilayer translation and modeling mechanism is necessary, in order to convert the application terms that are offered in traditional service level agreement contracts to resource level attributes. In the current thesis different candidate methodologies are analyzed with regard to their ability to dynamically create application models in service oriented infrastructures and the fittest one is selected based on the limitations and requirements. Its weaknesses are also investigated and innovative approaches are applied in order to render it applicable to the desired framework. The final form of this method (genetically optimized artificial neural networks) is validated in a variety of real world applications for predicting their performance based on the given hardware of execution, their high level parameters and configuration. What is more, a two level mechanism (workload forecasting and translation) extends its use in cases where the application workload cannot be foreseen by the owner of the service. Through the proposed framework, historical data are analyzed and patterns of usage are discovered that aid in the full automation of the management framework. Furthermore, a multi-layer, decoupled and service oriented framework, based on specialized numerical software, is designed and implemented for incorporating the selected method in cloud computing environments. In addition, the thesis analyzes the performance interference between concurrently running virtual resources and applications in a multitenant service oriented execution framework like Clouds. A limited number of benchmarks is chosen that depicts characteristic usage of the hardware resources and the degradation of their performance is measured due to the coexistence in the same physical host. Parameters that are taken under consideration in this process include also real time scheduling configuration, necessary for guaranteeing a process’s time on the CPU, along with assignment patterns on multicore architectures. Suitable prediction models are created, based on which the IaaS provider may have a priori knowledge of the overhead inserted by the execution of a specific task combination on a physical host and choose the optimal combinations for the guarantee of the actual Quality of Service offered by the resources.

Η ανάπτυξη υπηρεσιοστρεφών υποδομών παροχής λογισμικού και υλισμικού ως υπηρεσία καθιστά εφικτή την χρησιμοποίηση αυτών από εξωτερικούς χρήστες με τη μορφή πληρωμής με βάση τη χρήση. Για την εξασφάλιση της απαιτούμενης ποιότητας υπηρεσίας στην παροχή αυτών των υπηρεσιών, είναι απαραίτητος ένας διαστρωματικός μηχανισμός αντιστοίχισης και μοντελοποίησης των χαρακτηριστικών της εφαρμογής που προσφέρονται σαν όροι στα συμβόλαια επιπέδου υπηρεσιών σε χαρακτηριστικά φυσικών πόρων εκτέλεσης. Στην παρούσα διατριβή αναλύονται διαφορετικές υποψήφιες μεθοδολογίες δυναμικής δημιουργίας μοντέλων εφαρμογών σε υπηρεσιοστρεφείς υποδομές και επιλέγεται η καταλληλότερη σύμφωνα με τους περιορισμούς. Επιπλέον αναλύονται οι αδυναμίες αυτής και εφαρμόζονται καινοτόμοι τρόποι αντιμετώπισής τους, ώστε να είναι εφικτή η εφαρμογή της στο ζητούμενο πλαίσιο. Η τελική μορφή αυτής (γενετικά βελτιστοποιημένα νευρωνικά δίκτυα) δοκιμάζεται σε διαφορετικού τύπου εφαρμογές με στόχο την πρόβλεψη της απόδοσής τους με βάση το χρησιμοποιούμενο υλικό και την διαμόρφωσή τους. Επιπλέον, αναπτύσεται ένας μηχανισμός 2 επιπέδων που επεκτείνει την χρήση της και σε περιπτώσεις μη προκαθορισμένης και γνωστής ζήτησης της εφαρμογής. Μέσω της ανάλυσης των ιστορικών στοιχείων χρήσης αναγνωρίζονται μοτίβα συμπεριφοράς και δημιουργείται το κατάλληλο πλαίσιο συνδυασμένης πρόβλεψης. Επιπλέον, σχεδιάζεται και υλοποιείται ένα αποσυζευγμένο υπηρεσιοστρεφές πλαίσιο για την ενθυλάκωση της επιλεγμένης μεθόδου σε περιβάλλοντα υπολογιστικών νεφών και το οποίο βασίζεται σε μαθηματικό λογισμικό ειδικού σκοπού. Επιπρόσθετα, η διατριβή αυτή αναλύει την αλληλεπίδραση των εφαρμογών σε ένα κοινόχρηστο υπηρεσιοστρεφές πλαίσιο εκτέλεσης όπως τα Υπολογιστικά Νέφη. Επιλέγεται ένας περιορισμένος αριθμός τυπικών δοκιμίων και ανιχνεύεται η μείωση της απόδοσής τους λόγω του διαμοιρασμού των φυσικών πόρων. Παράμετροι που λαμβάνονται υπόψη κατά τη διαδικασία αυτή περιλαμβάνουν επίσης χαρακτηριστικά χρονοδρομολόγησης στις μονάδες επεξεργασίας καθώς και τρόπους ανάθεσης των εργασιών σε πολυεπεξεργαστικές αρχιτεκτονικές. Με βάση τα πειραματικά δεδομένα, μοντέλα πρόβλεψης της αλληλεπίδρασης αυτής αναπτύσονται, με βάση τα οποία ο Πάροχος Υποδομών μπορεί να γνωρίζει εκ των προτέρων την επίδοση ενός συγκεκριμένου συνδυασμού εργασιών που ανατίθενται σε ένα φυσικό κόμβο. Με τον τρόπο αυτό μπορεί να επιλέξει τους βέλτιστους συνδυασμούς για την ομαλότερη λειτουργία της υποδομής και την εξασφάλιση της ποιότητας υπηρεσίας.