Machine learning techniques for fine-grained semantic indexing of biomedical literature

Abstract

This thesis focuses on machine-learning techniques for the automated indexing of biomedical literature with semantically related but distinct fine-grained concepts, such as disease subcategories, different proteins of the same family, or different species of organisms belonging to the same genus, which is beyond the current practice. Specifically, it investigates the challenges and potential in this unexplored and challenging task proposing new machine learning methods to tackle it. These methods complement and improve existing approaches for searching, retrieving, and integrating biomedical knowledge, identifying and addressing specific open issues, and making individual stages of biomedical research more efficient. In particular, this thesis formulates the task of Fine-Grained Semantic Indexing (FGSI) of the biomedical literature, hindered by the lack of ground truth labels. It introduces the Concept Occurrence (CO) heuristic as a strong and precise source of weak supervision and proposes two methods, Beyond MeSH and Deep Beyond MeSH (DBM), for training weakly supervised FGSI models that improve upon the weak supervision itself. In addition, it introduces the notion of the previous host (PH) and a novel framework for the conceptual provenance of new labels in the MeSH thesaurus. Based on this framework, it proposes the Retrospective Beyond MeSH method (RetroBM) for the development of large-scale ground-truth FGSI datasets. Finally, it also investigates the task of zero-shot relabeling of the weak labels, introducing the PN Relabeler method that learns from CO errors on past labels to improve the heuristic annotations on new unseen labels. The long-term goal of this thesis is to provide biomedical researchers with targeted and comprehensive access to the knowledge they need, accelerating their work and enabling them to make the most of the vast and ever-expanding biomedical literature. This way, we aim to pave the way to the discovery of new biomedical knowledge.

Αυτή η διατριβή εστιάζει σε τεχνικές μηχανικής μάθησης για την αυτοματοποιημένη δεικτοδότηση της βιοϊατρικής βιβλιογραφίας με σημασιολογικά σχετικές αλλά διακριτές εκλεπτυσμένες έννοιες, όπως υποκατηγορίες ασθενειών, διαφορετικές πρωτεΐνες της ίδιας οικογένειας ή διαφορετικά είδη οργανισμών που ανήκουν στο ίδιο γένος, το οποίο είναι πέρα από την τρέχουσα πρακτική. Συγκεκριμένα, διερευνά τις προκλήσεις και τις δυνατότητες σε αυτό το ανεξερεύνητο και απαιτητικό έργο προτείνοντας νέες μεθόδους μηχανικής μάθησης για την αντιμετώπισή του. Αυτές οι μέθοδοι συμπληρώνουν και βελτιώνουν τις υπάρχουσες προσεγγίσεις αναζήτησης, ανάκτησης και ενσωμάτωσης βιοϊατρικής γνώσης, εντοπίζοντας και αντιμετωπίζοντας συγκεκριμένα ανοιχτά ζητήματα και καθιστώντας τα επιμέρους στάδια της βιοϊατρικής έρευνας πιο αποτελεσματικά. Ειδικότερα, η παρούσα διατριβή διατυπώνει την εργασία της δεικτοδότησης της βιοϊατρικής βιβλιογραφίας με εκλεπτυσμένες έννοιες (Fine-Grained Semantic Indexing, FGSI), που εμποδίζεται από την έλλειψη ετικετών βασικής αλήθειας. Εισάγει την ευρετική της εμφάνισης έννοιας (Concept Occurrence, CO) ως μια ισχυρή και ακριβή πηγή αδύναμης εποπτείας και προτείνει δύο μεθόδους, τη Beyond MeSH και τη Deep Beyond MeSH (DBM), για την εκπαίδευση μοντέλων FGSI με ασθενή επίβλεψη που βελτιώνουν την ίδια την αδύναμη επίβλεψη. Επιπλέον, εισάγει την έννοια του προηγούμενου φορέα (Previous Host, PH) και ένα νέο πλαίσιο για την εννοιολογική προέλευση των νέων ετικετών στο θησαυρό MeSH. Με βάση αυτό το πλαίσιο, προτείνει τη μέθοδο Retrospective Beyond MeSH (RetroBM) για την ανάπτυξη μεγάλης κλίμακας συνόλων δεδομένων βασικής αλήθειας για την εργασία FGSI. Τέλος, διερευνά επίσης την εργασία της αναθεώρησης των αδύναμων ετικετών χωρίς παραδείγματα εκπαίδευσης (Zero Shot), εισάγοντας τη μέθοδο PN Relabeler που μαθαίνει από σφάλματα της CO σε προηγούμενες ετικέτες για να βελτιώσει τις ευρετικές επισημειώσεις για νέες μη εμφανείς ετικέτες. Ο μακροπρόθεσμος στόχος αυτής της διατριβής είναι να παρέχει στους ερευνητές της βιοϊατρικής στοχευμένη και ολοκληρωμένη πρόσβαση στη γνώση που χρειάζονται, επιταχύνοντας το έργο τους και δίνοντάς τους τη δυνατότητα να αξιοποιήσουν στο έπακρο την τεράστια και συνεχώς διευρυνόμενη βιοϊατρική βιβλιογραφία. Με αυτόν τον τρόπο, στοχεύουμε να ανοίξουμε το δρόμο για την ανακάλυψη νέας βιοϊατρικής γνώσης.