Μεθοδολογίες μηχανικής μάθησης βασισμένες σε τεχνητά ανοσοποιητικά συστήματα

Abstract

The current Ph.D. thesis lies within the field of Pattern Recognition, providing theoretical and experimental justifications concerning the validity of Artificial Immune Systems as an alternative machine learning paradigm. The main source of inspiration stems from the fact that the Adaptive Immune System constitutes one of the most sophisticated biological systems that is particularly evolved in order to continuously address an extremely unbalanced pattern classification problem, by performing the self / non-self discrimination process. The primary effort undertaken in this dissertation is focused on addressing the fundamental problems of Pattern Recognition by developing Artificial Immune System-based machine learning algorithms. Therefore, the relevant research is particularly interested in providing alternative machine learning approaches for the problems of Clustering, Classification and One-Class Classification, measuring their efficiency against state of the art pattern recognition paradigms such as the Support Vector Machines. Pattern classification is specifically studied within the context of the Class Imbalance Problem dealing with extremely skewed training data sets. Specifically, the experimental results presented in this thesis involve degenerated binary classification problems where the class of interest to be recognized is known through a limited number of positive training instances. In other words, the target class occupies only a negligible volume of the entire pattern space while the complementary space of negative patterns remains completely unknown during the training process. Therefore, the effect of the Class Imbalance Problem on the performance of the proposed Artificial Immune System-based classification algorithm constitutes one of the secondary objectives of this thesis. The general experimentation framework adopted throughout the current dissertation in order to assess the efficiency of the proposed clustering, classification and one class classification algorithms was an open collection of one thousand (1000) pieces from 10 classes of western music. This collection, in particular, has been extensively used in applications concerning music information retrieval and music genre classification. The following list summarizes the pattern recognition problems addressed in the current Ph.D. thesis through the application of specifically designed Artificial Immune System-based machine learning algorithms:•Artificial Immune System-Based music piece clustering and Database Organization. •Artificial Immune System-Based Customer Data Clustering in an e-Shopping application.•Artificial Immune System-Based Music Genre Classification.•A Music Recommender Based on Artificial Immune Systems.Specifically, the experimental results presented in this thesis demonstrate that the general framework of Artificial Immune Systems constitutes a valid machine learning paradigm.

Η παρούσα διδακτορική διατριβή έγκειται στον ευρύτερο ερευνητικό τομέα της Αναγνώρισης Προτύπων και στοχεύει στην θεωρητική και πειραματική απόδειξη της εγκυρότητας των Τεχνητών Ανοσοποιητικών Συστημάτων ως ένα εναλλακτικό υπόδειγμα μηχανικής μάθησης. Η κύρια πηγή έμπνευσης για τη δημιουργία των Τεχνητών Ανοσοποιητικών Συστημάτων είναι το Προσαρμοστικό Ανοσοποιητικό Σύστημα των σπονδυλωτών οργανισμών το οποίο συνιστά ένα από τα πιο εξελιγμένα βιολογικά συστήματα. Συγκεκριμένα, το Προσαρμοστικό Ανοσοποιητικό Σύστημα έχει προσαρμοστεί μέσω της βιολογικής εξέλιξης κατά τέτοιο τρόπο έτσι ώστε να είναι σε θέση να επιτελεί συνεχώς τη διαδικασία της διάκρισης του εαυτού από τον μη-εαυτό η οποία συνιστά ένα ταξινομητικό πρόβλημα εξαιρετικής ταξικής ανισορροπίας. Η τρέχουσα διδακτορική διατριβή εστιάζει στην αντιμετώπιση των θεμελιωδών προβλημάτων με τα οποία ασχολείται η αναγνώριση προτύπων μέσω της ανάπτυξης αλγορίθμων μηχανικής μάθησης οι οποίοι βασίζονται στα βιολογικά ανοσοποιητικά συστήματα. Ως εκ τούτου, η σχετική έρευνα ενδιαφέρεται ιδιαίτερα για την διατύπωση εναλλακτικών μεθοδολογιών μηχανικής μάθησης για τα προβλήματα της Ομαδοποίησης, της Ταξινόμησης και της Μονοταξικής Ταξινόμησης και την μέτρηση της αποτελεσματικότητάς τους σε σύγκριση με τις πλέον σύγχρονες μεθοδολογίες όπως αυτής των Μηχανών Διανυσματικής Υποστήριξης. Η Ταξινόμηση προτύπων μελετάται ειδικότερα μέσα στο πλαίσιο της Ταξικής Ανισορροπίας η οποία αφορά προβλήματα για τα οποία τα σύνολα των δεδομένων εκπαίδευσης είναι εξαιρετικά ασύμμετρα. Τα πειραματικά δεδομένα που παρουσιάζονται στην παρούσα διατριβή περιλαμβάνουν εκφυλισμένα δυαδικά προβλήματα ταξινόμησης όπου η κλάση ενδιαφέροντος προς αναγνώριση είναι γνωστή μέσω ενός περιορισμένου αριθμού θετικών δειγμάτων. Με άλλα λόγια, η κλάση στόχος καταλαμβάνει μόνο ένα μέρος αμελητέου όγκου από τον συνολικό χώρο των προτύπων ενώ ο συμπληρωματικός χώρος των αρνητικών προτύπων παραμένει εντελώς άγνωστος κατά την διαδικασία της εκπαίδευσης. Η επίδραση του φαινομένου της Ταξικής Ανισορροπίας στην επίδοση του προτεινόμενου ανοσοποιητικού αλγορίθμου ταξινόμησης αποτελεί έναν επιπλέον στόχο της τρέχουσας διατριβής. Το γενικό πλαίσιο πειραματισμού που υιοθετήθηκε σε αυτή την διδακτορική διατριβή, προκειμένου να αποτιμηθεί η αποτελεσματικότητα των προτεινόμενων αλγορίθμων, Ομαδοποίησης, Ταξινόμησης και Μονοταξικής Ταξινόμησης περιλαμβάνει μια ελεύθερη συλλογή χιλίων (1000) μουσικών κομματιών από δέκα (10) μουσικολογικές κλάσεις δυτικής μουσικής. Η συλλογή αυτή, ειδικότερα, έχει χρησιμοποιηθεί εκτενώς σε εφαρμογές που αφορούν στην ανάκτηση μουσικής πληροφορίας και στην ταξινόμηση ως προς το μουσικολογικό είδος. Η λίστα που ακολουθεί συνοψίζει τα προβλήματα αναγνώρισης προτύπων που απευθύνθηκαν στην παρούσα διδακτορική διατριβή μέσω της εφαρμογής εξειδικευμένων αλγορίθμων μηχανικής μάθησης οι οποίοι σχεδιάστηκαν ως βασισμένοι στις αρχές των βιολογικών ανοσοποιητικών συστημάτων.•Artificial Immune System-Based music piece clustering and Database Organization •Artificial Immune System-Based Customer Data Clustering in an e-Shopping Application.•Artificial Immune System-Based Music Genre Classification.•A Music Recommender Based on Artificial Immune Systems.Τα πειραματικά αποτελέσματα που παρουσιάζονται σε αυτή τη διδακτορική διατριβή αποδεικνύουν την εγκυρότητα των Τεχνητών Ανοσοποιητικών Συστημάτων ως ένα εναλλακτικό υπόδειγμα Μηχανικής Μάθησης.