Hybrid methods for uncertain knowledge inference: automatic generation of uncertain rules from data

Abstract

Making decisions or predictions from data through machine learning (ML) methods has been a research topic of high interest in recent years. A disadvantage of these methods is the lack of transparency in the way results are derived, and therefore the inability to provide explanations, because the ML models used do not inherently support this. An alternative approach is to create models that have these capabilities, such as rule-based or case-based models. Furthermore, for most problems there are either incomplete data or the knowledge represented by the data is inherently uncertain, which present challenges that must also be addressed. Another potential disadvantage of ML models is the necessity of (sufficient) data, which are not always available. Rule models do not have this drawback. Finally, it has been shown that the appropriate hybridization of methods in a model leads to better results. In this dissertation, models and methods based on the above research directions will be presented. More specifically, the first two parts will present a framework, called ACRES, designed to generate rule-based expert systems from datasets, with a built-in model of certainty factors. ACRES utilizes several methods of extracting rules and calculating certainty factors from data, as well as organizing rules hierarchically to facilitate explanations. Its performance is comparable to many known ML methods. In the next part, a hybrid reasoning architecture is introduced, that combines several reasoning methods: rules, cases, weights, and voting, used to solve the complex problem of fish disease diagnosis, for which no pre-existing data were available. Finally, a hybrid reasoning method is presented, that integrates process mining and rule-based reasoning within a case-based reasoning framework. This method was applied to a personalized care system for individuals with autism spectrum disorders.

Η λήψη αποφάσεων ή η δημιουργία προβλέψεων από δεδομένα μέσω μεθόδων μηχανικής μάθησης (ΜΜ) είναι από τα ερευνητικά θέματα υψηλού ενδιαφέροντος τα τελευταία χρόνια. Ένα μειονέκτημα των μεθόδων αυτών είναι η αδιαφάνεια στον τρόπο εξαγωγής αποτελεσμάτων, και ως εκ τούτου η αδυναμία παροχής επεξηγήσεων, διότι τα χρησιμοποιούμενα μοντέλα ΜΜ δεν το επιτρέπουν. Μια εναλλακτική είναι η δημιουργία μοντέλων που έχουν τέτοια δυνατότητα, όπως τα μοντέλα βασισμένα σε κανόνες (rule-based models) ή σε περιπτώσεις (case-based models). Επίσης, στα περισσότερα προβλήματα είτε υπάρχουν ελλιπή δεδομένα είτε η γνώση που παριστάνουν τα δεδομένα είναι εγγενώς αβέβαιη, καταστάσεις που πρέπει επίσης να αντιμετωπιστούν. Ένα άλλο (ενίοτε) μειονέκτημα των μοντέλων ΜΜ είναι η αναγκαιότητα ύπαρξης (ικανών) δεδομένων, τα οποία δεν είναι πάντα διαθέσιμα. Τα μοντέλα των κανόνων δεν έχουν αυτό το μειονέκτημα. Τέλος, έχει αποδειχθεί ότι ο κατάλληλος υβριδισμός μεθόδων σε ένα μοντέλο καταλήγει σε καλύτερα αποτελέσματα. Στην παρούσα διατριβή παρουσιάζονται μοντέλα και μέθοδοι που βασίζονται στις παραπάνω ερευνητικές κατευθύνσεις. Πιο συγκεκριμένα, στα πρώτο δυο μέρη παρουσιάζεται ένα μοντέλο, ονόματι ACRES, που έχει σχεδιαστεί για να παράγει έμπειρα συστήματα βασισμένα σε κανόνες με ενσωματωμένο μοντέλο συντελεστών βεβαιότητας (certainty factors) από σύνολα δεδομένων. Το ACRES διαθέτει διάφορες μεθόδους εξαγωγής κανόνων και υπολογισμού των συντελεστών βεβαιότητας από δεδομένα, καθώς και ιεραρχικής οργάνωσης των κανόνων ώστε να διευκολύνεται η παροχή επεξηγήσεων. Η απόδοσή του συγκρίνεται με πολλές γνωστές μεθόδους ΜΜ. Στην συνέχεια παρουσιάζεται μια υβριδική αρχιτεκτονική συλλογισμού, που συνδυάζει διάφορες μεθόδους συλλογισμού: κανόνες, περιπτώσεις, βάρη, και ψηφοφορία, και χρησιμοποιήθηκε για την επίλυση του πολύπλοκου προβλήματος της διάγνωσης ασθενειών των ψαριών, για το οποίο δεν διατίθενται δεδομένα. Τέλος παρουσιάζεται μια υβριδική μέθοδος συλλογισμού που ενσωματώνει την εξόρυξη διεργασιών και τον συλλογισμό με κανόνες στο πλαίσιο του συλλογισμού με περιπτώσεις, η οποία εφαρμόστηκε σε ένα σύστημα εξατομικευμένης παροχής υπηρεσιών σε άτομα με διαταραχές του φάσματος του αυτισμού.