Development of novel cognitive network structures with applications in pattern classification, system fault detection and time series prediction

Abstract

This thesis advances the field of Fuzzy Cognitive Maps (FCMs) by addressing their inherent limitations and extending their capabilities through novel methodologies, architectures, and applications. The research focuses on enhancing the adaptability, scalability, and practicality of Fuzzy Cognitive Networks (FCNs), a specialized class of FCMs, for complex, data-driven, and dynamic real-world scenarios. The foundational contributions include the introduction of functional weights, leading to the development of FCN-FW, which replaces static associations with dynamic, data-driven polynomials. This innovation eliminates the need for extensive fuzzy rule databases, minimizes human expert intervention, and improves the scalability and generalization capabilities of FCNs. Furthermore, specialized topologies tailored to classification tasks were formalized, enabling efficient and accurate convergence to equilibrium states representing class labels. This work also explores ensemble and hybrid architectures by developing Multiple Cognitive Classifier Systems (MCCS) and integrating FCNs with Convolutional Neural Networks (CNN-FCN), Echo State Networks (ESN-FCN), and Autoencoder-FCN (AE-FCN). These hybrid systems combine the interpretability of FCNs with the representational power of deep learning, demonstrating superior performance in feature extraction and classification tasks. A unified training mechanism was proposed, seamlessly blending FCNs with neural networks, further enhancing adaptability. The practical applicability of FCNs was validated through extensive real-world applications, including pattern recognition, time series prediction, and industrial diagnostics. Highlighted implementations include handwritten digit classification, stock market prediction, index tracking portfolio management, remaining useful life estimation for aircraft engines, incipient short-circuit fault detection in induction generators, motor rolling bearing fault detection and a wide set of classification benchmarks. These applications underscore FCNs’ versatility and robustness in addressing challenges in diverse application domains. This thesis also tackled key limitations of FCMs, such as dependency on expert-defined parameters, scalability challenges, and uncertainty handling, through rigorous theoretical and empirical validation. These contributions enhance the adaptability and robustness of FCNs, positioning them as a framework that balances interpretability with computational efficiency, while advancing their application in machine learning, predictive analytics, and decision-making systems.

Η παρούσα διατριβή προάγει τον τομέα των Ασαφών Γνωστικών Χαρτών (ΑΓΧ) αντιμετωπίζοντας τους εγγενείς τους περιορισμούς και επεκτείνοντας τις δυνατότητές τους μέσω καινοτόμων μεθοδολογιών, αρχιτεκτονικών και εφαρμογών. Η έρευνα επικεντρώνεται στη βελτίωση της προσαρμοστικότητας, της επεκτασιμότητας και της πρακτικότητας των Ασαφών Γνωστικών Δικτύων (ΑΓΔ), μιας εξειδικευμένης κατηγορίας των ΑΓΧ, για σύνθετα, βασισμένα σε δεδομένα και δυναμικά σενάρια του πραγματικού κόσμου. Οι θεμελιώδεις συνεισφορές περιλαμβάνουν την εισαγωγή συναρτησιακών βαρών, που οδήγησαν στην ανάπτυξη της υλοποίησης ΑΓΔ με συναρτησιακά βάρη (ΑΓΔ-ΣΒ), όπου αντικαθιστά τις στατικές συσχετίσεις με δυναμικά, βασισμένα σε δεδομένα πολυώνυμα. Αυτή η καινοτομία εξαλείφει την ανάγκη για εκτεταμένες βάσεις δεδομένων ασαφών κανόνων, μειώνει την παρέμβαση ειδικών και βελτιώνει την επεκτασιμότητα και τις δυνατότητες γενίκευσης των ΑΓΔ.Επιπλέον, εξερευνήθηκαν εξεζητημένες αρχιτεκτονικές και υβριδικές αρχιτεκτονικές με την ανάπτυξη Πολλαπλών Γνωστικών Συστημάτων Ταξινόμησης (ΠΓΣΤ) και την ενσωμάτωση των ΑΓΔ με Συνελικτικά Νευρωνικά Δίκτυα (ΣΝΔ), Δίκτυα Κατάστασης Αντήχησης (ΔΚΑ) και Αυτοκωδικοποιητές-ΑΓΔ (Α-ΑΓΔ). Αυτά τα υβριδικά συστήματα συνδυάζουν την ερμηνευσιμότητα των ΑΓΔ με τη δύναμη αναπαράστασης της βαθιάς μάθησης, επιδεικνύοντας ανώτερη απόδοση στην εξαγωγή χαρακτηριστικών και στα προβλήματα ταξινόμησης. Προτάθηκε ένας ενιαίος μηχανισμός εκπαίδευσης που συνδυάζει ομοιόμορφα τα ΑΓΔ με τα νευρωνικά δίκτυα, βελτιώνοντας περαιτέρω την προσαρμοστικότητα. Η πρακτική εφαρμογή των ΑΓΔ επικυρώθηκε μέσω εκτεταμένων εφαρμογών του πραγματικού κόσμου, συμπεριλαμβανομένης της αναγνώρισης προτύπων, της πρόβλεψης χρονοσειρών και της βιομηχανικής διάγνωσης. Επιλεγμένες υλοποιήσεις περιλαμβάνουν την ταξινόμηση ψηφίων απο χειρόγραφα, την πρόβλεψη της χρηματιστηριακής αγοράς, τη διαχείριση χαρτοφυλακίων παρακολούθησης δεικτών, την εκτίμηση του υπολειπόμενου χρόνου ζωής για κινητήρες αεροσκαφών, την ανίχνευση βλαβών βραχυκυκλώματος σε γεννήτριες επαγωγής, την ανίχνευση βλαβών σε ρουλεμάν κύλισης κινητήρων και ένα ευρύ σύνολο προβλημάτων ταξινόμησης. Αυτές οι εφαρμογές υπογραμμίζουν την ευελιξία και την ανθεκτικότητα των ΑΓΔ στην αντιμετώπιση προκλήσεων σε διάφορους τομείς εφαρμογών. Η διατριβή αυτή αντιμετώπισε επίσης βασικούς περιορισμούς των ΑΓΧ, όπως η εξάρτηση από παραμέτρους που ορίζονται από ειδικούς, οι προκλήσεις επεκτασιμότητας και η διαχείριση αβεβαιότητας, μέσω αυστηρής θεωρητικής και εμπειρικής επικύρωσης. Αυτές οι συνεισφορές βελτιώνουν την προσαρμοστικότητα και την ανθεκτικότητα των ΑΓΧ, τοποθετώντας τα ως ένα πλαίσιο που ισορροπεί την ερμηνευσιμότητα με την υπολογιστική αποτελεσματικότητα, ενώ προάγουν την εφαρμογή τους στη μηχανική μάθηση, την προβλεπτική ανάλυση και τα συστήματα υποστήριξης αποφάσεων.