Complex event recognition and forecasting in streams of data

Abstract

Mobility data mining is concerned with the extraction of useful insights and the discovery of common patterns in datasets that describe the behaviour of moving objects. The continuous flow of new records generates open-ended data streams. Detecting interesting patterns in these streams is referred to as Complex Event Recognition. Systems capable of recognizing such activities of interest can help achieve situational awareness, based on the most recent information. Similarly, providing timely warnings and estimates on the occurrence of patterns in the future is called Complex Event Forecasting. Focusing on the maritime use case, analysis on vessel trajectories is of utmost importance, witharound 80% of the world’s trade being carried by sea. Taking advantage of vessel tracking systems can lead to the development of Decision Support Systems that help major stakeholders of the shipping industry. These systems can be utilized in both the planning stage and during operations, for route optimization and activity recognition. The most popular monitoring system of vessel traffic is the self-reporting Automatic Identification System (AIS), that includes positional information, along with vessel and voyage specific features. Several studies have emerged in order to model vessel mobility using AIS data, usually focusing on achieving high accuracy on a specific data mining task. Furthermore, the rise of deep learning architectures has resulted in a plethora of approaches suitable for vessel movement forecasting. These approaches have proven to be quite effective in short-term predictive analytics, but few provide long-term estimations. Moreover, the need of large datasets for the generation of accurate models limits their applicability in more infrequent use cases. Finally, the “black box” nature of deep learning models prevents their incorporation into safety-critical real world applications, due to the lack of clarity in their decision making process. In this work, a framework for transforming huge amounts of AIS data, into a descriptive and compact data model, that can be used for identifying the underlying relationships or patterns in an effective way, is presented. The proposed approach is designed for processing raw AIS data towards both descriptive and predictive analytics. A full preprocessing pipeline is described, to filter erroneous and unnecessary positions, while a trajectory reconstruction technique based on historical movement is proposed, for instances of large temporal gaps in the data. Effective and configurable density maps are generated, visualizing the traffic over an area and period of interest. Moreover, focusing on the vessel mobility between two specific ports, an unsupervised multi-step technique for extracting routes of common movement is introduced. Using the extracted routes, irregular activity can be easily identified on data streams of vessel positions, along with more complex events, like loitering activity and search-and-rescue missions. Finally, the extracted routes are translated into a mobility graph, to provide efficient long-term route forecasting for the vessels. The graph is enhanced with classification models that take advantage of vessel features (like their dimensions) or voyage characteristics (seasonality), to provide the best-suited results for each query. The proposed process is evaluated using a large heterogeneous global dataset of trips from vessels of different types, showcasing significant improvement in accuracy over different state-of-the-art methods. The forecasted trajectories are then combined with nautical charts and areas of interest to produce forecasts of potential upcoming vessel activities, like groundings and fishing.

Η εξόρυξη δεδομένων κίνησης ασχολείται με την εξαγωγή χρήσιμων πληροφοριών και την ανακάλυψη κοινών μοτίβων σε σύνολα δεδομένων που περιγράφουν τη συμπεριφορά κινούμενων αντικειμένων. Η συνεχής παραγωγή εγγραφών οδηγεί στην δημιουργία ροών δεδομένων. Η ανίχνευση ενδιαφερουσών μοτίβων σε αυτές τις ροές αναφέρεται ως αναγνώριση σύνθετων γεγονότων, επιτρέποντας τη δημιουργία συστημάτων πραγματικού χρόνου ικανών για ακριβέστερη αντίληψη της παρούσας κατάστασης από τους χρήστες. Ομοίως, η παροχή έγκαιρων προειδοποιήσεων και εκτιμήσεων σχετικά με την εμφάνιση τέτοιων μοτίβων στο μέλλον ονομάζεται πρόβλεψη σύνθετων γεγονότων. Εστιάζονταςστην περίπτωση της ναυτιλίας, η ανάλυση των τροχιών των πλοίων είναι εξαιρετικής σημασίας, δεδομένου ότι περίπου το 80% του παγκόσμιου εμπορίου μεταφέρεται δια θαλάσσης. Ο στόχος των συστημάτων εντοπισμού πλοίων είναι η υποστήριξης αποφάσεων των ενδιαφερόμενων φορέων της ναυτιλιακής βιομηχανίας. Τα συστήματα αυτά μπορούν να αξιοποιηθούν τόσο στο στάδιο του σχεδιασμού όσο και κατά τη διάρκεια των επιχειρήσεων, για τη βελτιστοποίηση της διαδρομής και την αναγνώριση δραστηριοτήτων, με στόχο την ασφαλή ναυσιπλοΐα. Το αυτόματο σύστημα αναγνώρισης (Automatic Identification System - AIS) περιλαμβάνει πληροφορίες θέσης και κίνησης, καθώς και ειδικά χαρακτηριστικά για το κάθε πλοίο και ταξίδι, και χρησιμοποιείται από εκατοντάδες χιλιάδες πλοία ανά τον κόσμο. Έχουν προταθεί διάφορες μελέτες για τη μοντελοποίηση της κίνησης των πλοίων χρησιμοποιώντας δεδομένα AIS, οι οποίες συνήθως επικεντρώνονται στην επίτευξη υψηλής ακρίβειας σε ένα συγκεκριμένο πρόβλημα εξόρυξης δεδομένων. Η άνοδος των τεχνικών βαθιάς μάθησης (deep learning) έχει οδηγήσει σε πληθώρα προσεγγίσεων για την μοντελοποίηση της κίνησης των πλοίων. Αυτές οι προσεγγίσεις έχουν αποδειχθεί αρκετά αποτελεσματικέςστη βραχυπρόθεσμη προγνωστική ανάλυση, αλλά λίγες παρέχουν μακροπρόθεσμες εκτιμήσεις. Επιπλέον, η ανάγκη μεγάλων συνόλων δεδομένων για τη δημιουργία μοντέλων περιορίζει την εφαρμογή τους σε πιο σπάνιες περιπτώσεις χρήσης. Τέλος, η δημιουργία μοντέλων βαθιάς μάθησης που λειτουργούν σαν ”μαύρα κουτιά” εμποδίζει την ενσωμάτωσή τους σε κρίσιμες για την ασφάλεια εφαρμογές του πραγματικού κόσμου, λόγω της έλλειψης επεξηγήσεων στη διαδικασία λήψης αποφάσεων. Στην παρούσα εργασία, παρουσιάζεται ένα πλαίσιο για τη μετατροπή των τεράστιων όγκων δεδομένων AIS σε ένα περιγραφικό και συμπαγές μοντέλο δεδομένων, το οποίο μπορεί να χρησιμοποιηθεί για τον εντοπισμό των υποκείμενων σχέσεων ή μοτίβων με αποτελεσματικό τρόπο. Η προτεινόμενη προσέγγιση είναι σχεδιασμένη για την επεξεργασία ακατέργαστων δεδομένων AIS προς την κατεύθυνση τόσο της περιγραφικής όσο και της προγνωστικής ανάλυσης. Περιγράφεται μια πλήρης διαδικασία προεπεξεργασίας για το φιλτράρισμα λανθασμένων θέσεων, ενώ προτείνεται μια τεχνική ανακατασκευής τροχιάς με βάση την ιστορική κίνηση, για περιπτώσεις μεγάλων χρονικών κενών στα δεδομένα. Δημιουργούνται αποτελεσματικοί και παραμετροποιήσιμοι χάρτες πυκνότητας, οι οποίοι απεικονίζουν την κυκλοφορία σε μια περιοχή και μια περίοδο ενδιαφέροντος. Επιπλέον, εστιάζοντας στην κινητικότητα των πλοίων μεταξύ δύο συγκεκριμένων λιμένων, εισάγεται μια μη επιβλεπόμενη τεχνική πολλαπλών βημάτων για την εξαγωγή κοινών διαδρομών. Χρησιμοποιώντας τις εξαγόμενες διαδρομές, η παράτυπη(ανώμαλη) δραστηριότητα μπορεί εύκολα να εντοπιστεί σε ροές δεδομένων των θέσεων των πλοίων, μαζί με πιο σύνθετα γεγονότα, όπως η αφύσικη παραμονή σε μια περιοχή και οι αποστολές έρευνας και διάσωσης. Τέλος, οι εξαγόμενες διαδρομές μεταφράζονται σε γράφημα κίνησης, ώστε να παρέχεται αποτελεσματική μακροπρόθεσμη πρόβλεψη διαδρομών για τα πλεούμενα. Ο γράφος ενισχύεται με μοντέλα ταξινόμησης που εκμεταλλεύονται τα χαρακτηριστικά των πλοίων (όπως οι διαστάσεις τους) ή τα χαρακτηριστικά των ταξιδιών (εποχικότητα), ώστε να παρέχουν τα καταλληλότερα αποτελέσματα για κάθε ερώτημα. Η προτεινόμενη διαδικασία αξιολογείται με τη χρήση ενός μεγάλου ετερογενούς παγκόσμιου συνόλου δεδομένων από ταξίδια πλοίων διαφορετικών τύπων, παρουσιάζοντας σημαντική βελτίωση σε ακρίβεια σε σχέση με διάφορες σύγχρονες μεθόδους. Οι προβλεπόμενες αυτές τροχιές αποτελούν την βάση για την παραγωγή προβλέψεων πιθανών επερχόμενων δραστηριοτήτων, όπως προσαράξεις και αλιεία.