Low-cost metamodel-assisted evolutionary algorithms with applications in shape optimization in fluid dynamics

Abstract

The scope of this PhD is to propose, develop and assess several upgrades to existing shape optimization methods based on Evolutionary Algorithms (EAs). The efficiency of the proposed improvements is demonstrated in a number of real-world applications in the field of fluid mechanics (aerodynamic, hydrodynamics and turbomachinery) which are associated with computationally expensive evaluation software. They noticeably reduce the computational cost of optimization compared to the available (background) methods, which are still based on EAs enhanced by metamodels (Metamodel-Assisted EAs or MAEAs) and distributed search. Metamodels, mainly Radial Basis Function networks, are online trained personalized surrogate evaluation models, meaning that a local metamodel is trained for the pre-evaluationof each new individual generated during the evolution. This is in contrast to the common use of offline trained metamodels widely used by other relevant methods. Parallelization, in the form of concurrent evaluations of the candidate solutions on the multiprocessor platform of the Parallel CFD & Optimization Unit (PCOpt) of the Lab of Thermal Turbomachines of the NTUA is an indispensable feature of the proposed method variants. All developments have been made in the generic optimization platform EASY (Evolutionary Algorithm SYstem) developed by the PCOpt/NTUA. In all but one optimization problems, the problem-specificmodel to evaluate the candidate solutions is the GPU-enabled CFD solver PUMA developed by the same group. Only in the case of the optimization of the valveless diaphragm micropump, a different in-house CFD tool based on the cut-cell method is used instead. The most important contributions of this thesis are listed below:a) The use of Principal Component Analysis (PCA) to assist the EAs during the evolution. In this thesis, the Kernel PCA is used and is shown to provide better results compared to the Linear PCA used so far. In each generation of the EA, the PCA performs an eigendecomposion of the offspring population. The resulting eigenvectors define a new feature space, which the population members are transformed into; the evolution operators are applied in the feature space in which they perform optimally. Moreover, the PCA assists the MAEAs. Metamodels are only trained on the most important variables (directions in the feature space) indicated by the PCA, while the rest are safely truncated, as these generate noise at the predictions. The metamodels are trained with transformed by the PCApatterns, with truncated design variables, leading to reduced training cost and more dependable predictions. The two-fold usage of PCA drives the EA-based search in a much better way.b) A PCAbased Hybrid Algorithm aiming at maximum efficiency in Multi-Objective Optimization (MOO). This hybrid method combines the advantages of EA and Gradient-Based(GB) optimization. The EA explores the design space while the GB method regularly upgrades the most promising solutions. The required gradients of the objective functions with respect to the design variables are efficiently computed with the continuous adjoint method developed and programmed in the PCOpt/NTUA, at a cost which is independent of the number of design variables. In MOO, the direction along which the GB method updates the selected individuals is of outmost importance. Herein, the Linear PCA computes the principalcomponents of the objective space by processing the objective function values of individuals forming the current front of non-dominated solutions. The principal component (direction) corresponding to the minimum variance is perpendicular to the current front and points towards the direction of the simultaneous improvement of all objective functions, so this is used for the GB refinement. The proposed hybrid method performs better than the non-hybridized EA-based search.c) Multi-Criteria Decision Making (MCDM) within EAs to account for the Decision Maker’s (DM) preferences during the evolution. In contrast to standard multi-objective EAs which may insufficiently populate the preferred area(s) of the objective space, more non-dominatedsolutions are now driven towards them. This is achieved by using the MCDM Technique for Order of Preference by Similarity to Ideal Solution (TOPSIS), which affects the parent selection and the non-dominated front trimming operators.d) Flow prediction with Deep Neural Networks (DNNs) to assist the design/optimization of aerodynamic shapes. Trained on databases of CFD simulations, DNNs learn to predict the flow field around/inside these bodies, such as airfoils, wings and turbomachinery cascades. In this thesis, inputs and outputs are processed as images, in 2D cases, or raw data, in 3D cases. The DNNs are validated on new shapes and their ability to replicate the CFD results with high precision and low computational cost is demonstrated. The DNNs are employed as offline trained metamodels during the EA-based search, in contrast to the online trained metamodels used in the aforementioned MAEAs. The background and the aforementioned methods can work synergistically or separately to improve the performance of EA-basedoptimization methods as it is demonstrated in two groups of CFD applications. The first group consists of some "standard" CFD-based optimization problems, the so-called benchmarkcases. Each time a new variant is presented, these are revisited. By doing so, the reader should clearly assess the improvement offered by the proposed method. In a separate chapter of this thesis, a number of industrial cases are presented and optimized with the most efficient methods presented. These include the shape optimization of : (a) an Aircraft Wing-Body Configuration, (b) the DrivAer Car, (c) an Ultralight Aircraft, (d) a Francis Runner and (e) a Valveless Diaphragm Micropump.

Σκοπός της Διδακτορικής Διατριβής είναι να προτείνει, προγραμματίσσει και αξιολογήσειαναβαθμίσεις σε υπάρχουσες μεθόδους βελτιστοποίησης αεροδυναμικών/υδροδυναμικών μορφών με βάση τους εξελικτικούς αλγορίθμους (EA). Η αποδοτικότητα των προτεινόμενων βελτιώσεων επιδεικνύεται σε πραγματικές εφαρμογές απο τον τομέα της υππολογιστικής ρευστοδυναμικής (ΥΡΔ) που σχετίζονται με υπολογιστικά ακριβό λογισμικό αξιολόγησης. Οι προτεινόμενες μέθοδοι μειώνουν αισθητά το υπολογιστικό κόστος βελτιστοποίησης σε σύγκριση με προϋπάρχουσες μεθόδους, οι οποίες βασίζονται σε ΕΑ ενισχυμένους με χρήση μεταπροτύπων (Metamodel-Assisted ΕΑ, ΜΑΕΑ) και κατανεμημένης αναζήτησης. Όλα τα μεταπρότυπα, κυρίως δίκτυα ακτινικής βάσης, είναι εξατομικευμένα και συνδεδεμένα με την εξέλιξη, που σημαίνει ότι, κατά τη διάρκεια της εξέλιξης, ένα μεταπρότυπο τοπικής εμβέλειας εκπαιδεύεται για κάθε νέο άτομο προς αξιολόγηση. Η χρήση αυτή των μεταπροτύπων έρχεται σε αντίθεση με τη χρήση μεταπροτύπων αποσυνδεδεμένων από την εξέλιξη, η οποία συνηθίζεται στην πλειονότητα των συναφών μεθόδων της βιβλιογραδίας. Δεδομένου του υψηλού υπολογιστικού κόστους ανά αξιολόγηση, η παραλληλοποίηση, με τη έννοια της ταυτόχρονης αξιολόγησης των υποψήφιων λύσεων στην πολυεπεξεργαστική συστοιχία υπολογιστών της Μονάδας Παράλληλης Υπολογιστικής Ρευστοδυναμικής & Βελτιστοποίησης (ΜΠΥΡΒ) του Εργαστηρίου Θερμικών Στροβιλομηχανών του ΕΜΠ, είναι απολύτως απαραίτητη. Όλες οι προτεινόμενες μέθοδοι έχουν αναπτυχθεί στη γενικής φύσης πλατφόρμα βελτιστοποίησης EASY (Evolutionary Algorithm SYstem) που αναπτύχθηκε από την ΜΠΥΡΒ. Σε όλα τα προβλήματα βελτιστοποίησης, το λογισμικό αξιολόγησης για κάθε υποψήφια λύση είναι ο βασιζόμενος σε κάρτες γραφικών επιλύτης ροών με τεχνικές ΥΡΔ PUMA, που έχει αναπτυχθεί από την ίδια ομάδα. Μόνο στην περίπτωση της βελτιστοποίησης διαφραγματικής μικρο-αντλίας χωρίς βαλβίδες, χρησιμοποιείται ένας διαφορετικός επιλύτης ΥΡΔ που βασίζεται στη μέθοδο των τεμνόμενων κυψελών. Οι πιο σημαντικές συνεισφορές αυτής της εργασίας είναι οι ακόλουθες:α) Η χρήση της Ανάλυσης Κύριων Συνιστωσών (ΑΚΣ) για την υποβοήθηση των EA. Σε αυτήν την εργασία, χρησιμοποιείται η ΑΚΣ με συναρτήσεις πυρήνα και δείχνεται ότι παρέχει καλύτερα αποτελέσματα σε σύγκριση με τη γραμμική ΑΚΣ, που χρησιμοποιείτο προηγουμένως. Στην αρχή κάθε γενιάς, η ΑΚΣ εκτελεί μια ιδιοανάλυση του πληθυσμού των απογόνων. Τα προκύπτοντα ιδιοδιανύσματα ορίζουν ένα νέο χώρο των χαρακτηριστικών, στον οποίο μετασχηματίζονται τα μέλη του πληθυσμού. Οι τελεστές εξέλιξης εφαρμόζονται στο χώρο των χαρακτηριστικών όπου εκεί λειτουργούν βέλτιστα. Τα μεταπρότυπα εκπαιδεύονται με τις πιο σημαντικές μεταβλητές ενώ οι υπόλοιπες αποκόπτονται με ασφάλεια, καθώς εισάγουν θόρυβο στις προβλέψεις. Η ΑΚΣ προσδιορίζει τις πιο σημαντικές κατευθύνσεις (μεταβλητές) στο χώρο των χαρακτηριστικών. Τα μεταπρότυπα εκπαιδεύονται με δεδομένα τα οποία μετασχηματίζονται στο χώρο των χαρακτηριστικών όπου αποκόπτονται οι λιγότερο σημαντικές μεταβλητές. Κατά συνέπεια, μειώνεται το κόστος εκπαίδευσης των μεταπροτύπων και οι προβλέψεις τους γίνονται πιο αξιόπιστες. Η διπλή χρήση της ΑΚΣ οδηγεί σε καλύτερη απόδοση του EA.β) Ένας Υβριδικός Αλγόριθμος βασισμένος στην ΑΚΣ με στόχο τη μέγιστη απόδοση σε προβλήματα πολυκριτηριακής βελτιστοποίησης. Αυτή η υβριδική μέθοδος συνδυάζει τα πλεονεκτήματα του EA και εκείνα της μεθόδου βελτιστοποίησης με παραγώγους (ΒμΠ).Ο ΕΑ διερευνά το χώρο σχεδιασμού, ενώ η μέθοδος ΒμΠ ανανεώνει τακτικά τις πιο υποσχόμενες λύσεις. Οι απαιτούμενες κλίσεις των αντικειμενικών συναρτήσεων ως προς τις μεταβλητές σχεδιασμού υπολογίζονται αποτελεσματικά με τη συνεχή συζυγή μέθοδο που αναπτύχθηκε και προγραμματίστηκε στη ΜΠΥΡΒ, το κόστος της οποίας είναι ανεξάρτητο από τον αριθμό των μεταβλητών σχεδιασμού. Στη πολυκριτηριακή βελτιστοποίηση, η κατεύθυνση κατά την οποία η μέθοδος ΒμΠ ανανεώνει τα επιλεγμένα άτομα είναι εξαιρετικής σημασίας. Η γραμμική ΑΚΣ υπολογίζει τις κύριες συνιστώσες του χώρου των αντικειμενικών συναρτήσεων χρησιμοποιώντας τις τιμές των αντικειμενικών συναρτήσεων των ατόμων του τρέχοντος μέτωπου των μη-κυριαρχούμενων λύσεων. Η κύρια συνιστώσα (κατεύθυνση) που αντιστοιχεί στην ελάχιστη διακύμανση είναι κάθετη στο τρέχον μέτωπο και δείχνει προς την κατεύθυνση η οποία ταυτόχρονα βελτιώνει όλες τις αντικειμενικές συναρτήσεις, για αυτό και χρησιμοποιείται για την ανανέωση με ΒμΠ. Η προτεινόμενη υβριδική μέθοδος αποδίδει καλύτερα από τους μη-υβριδικούς ΕΑ.γ) Πολυκριτηριακή Λήψη Αποφάσεων (ΠΛΑ) εντός των EA για να ληφθούν υπόψην οι προτιμήσεις του Λήπτη Αποφάσεων κατά την εξέλιξη. Σε αντίθεση με τους EA πολλών στόχων που ενδέχεται να μην καλύπτουν επαρκώς τις προτιμώμενες περιοχες του χώρου των αντικειμενικών, η χρήση τεχνικών ΠΛΑ οδηγεί περισσότερες μη-κυριαρχούμενες λύσεις προς τις περιοχές αυτές. Αυτό, στη Διδακροτική αυτή Διατριβή, επιτυγχάνεται με τη χρήση της μεθόδου ΠΛΑ Technique for Order of Preference by Similarity to Ideal Solution (TOPSIS), η οποία επηρεάζει την επιλογή γονέων και την αποκοπή των μη-κυριαρχούμενων λύσεων από το τρέχον μέτωπο.δ) Προβλέψη ροής με Βαθιά Νευρωνικά Δίκτυα (ΒΝΔ) για την υποβοήθηση στο σχεδιασμό/βελτιστοποίηση αεροδυναμικών σχημάτων. Αφού έχουν εκπαιδευτεί σε βάσεις δεδομένων προσομοιώσεων οι οποίες πραγματοποιήθηκαν με την χρήση λογισμικού ΥΡΔ, τα ΒΝΔ μαθαίνουν να προβλέπουν το πεδίο ροής γύρω/μέσα στα αεροδυναμικά σώματα, όπως αεροσκάφη, πτερύγια και θερμικές στροβιλομηχανές. Στην Διδακτορική αυτή Διατριβή, η επεξεργασία των δεδομένων εισόδου και εξόδου του ΒΝΔ γίνεται σε μορφή εικόνων, σε 2D περιπτώσεις, και σε μορφή ανεπεξέργαστων δεδομένων, σε 3D περιπτώσεις. Τα ΒΝΔ δοκιμάζονται σε νέα αεροδυναμικά σχήματα και αποδεικνύεται η ικανότητά τους να αναπαράγουν τα αποτελέσματα κωδίκσν ΥΡΔ με υψηλή ακρίβεια και χαμηλό υπολογιστικό κόστος (μη συμπεριλαμβανομένου του κόστους εκπαίδευσης). Τα ΒΝΔ χρησιμοποιούνται ως αποσυνδεδεμένα από την εξέλιξη μεταπρότυπα, σε αντίθεση με τα συνδεδεμένα με την εξέλιξη μεαταπρότυπα που παρουσιάστηκαν προηγουμένως.Οι προαναφερθείσες μέθοδοι μπορούν να λειτουργούν συνεργατικά ή ξεχωριστά για τη βελτίωση της απόδοσης των μεθόδων βελτιστοποίησης που βασίζονται σε EA, όπως αποδεικνύεται σε δύο ομάδες εφαρμογών. Η πρώτη ομάδα αποτελείται από κάποια "τυπικά" προβλήματα αεροδυναμικής βελτιστοποίησης, που ονομάζονται προβλήματα αναφοράς. Κάθε φορά που παρουσιάζεται μια νέα προτεινόμενη μέθοδος, τα προβλήματα αυτά επανεξετάζονται. Με αυτόν τον τρόπο, ο αναγνώστης θα μπορεί να αξιολογεί με σαφήνεια και συγκριτικά τα πλεονεκτήματα κάθε προτεινόμενης παραλλαγής. Σε ξεχωριστό κεφάλαιο της Διδακτορικής Διατριβής, παρουσιάζονται και βελτιστοποιούνται ορισμένα βιομηχανικά προβλήματα με τις πιο αποτελεσματικές από τις προτεινόμενες μεθόδους. Στα προβλήματα αυτά περιλαμβάνουν τη βελτιστοποίηση του σχήματος: (α) μιας διαμόρφωσης πτέρυγας-ατράκτου αεροσκάφους, (β) του αυτοκινήτου DrivAer, (γ) ενός ελαφρού ανεμόπτερου, (δ) ενός δρομέα υδροστροβίλου Francis και (ε) μιας διαφραγματικής μικρο-αντλίας χωρίς βαλβίδες.