Computational methods for automatic analog integrated circuit design

Abstract

For decades, the semiconductor and electronics industry have seen great progress, fueled by the continuous scaling of transistor dimensions. Integrated circuits in the sub-μm range have been extensively utilized in the electronics industry. Nowadays, with Moore’s law coming to an end, transistors’ gates have reached unprecedented lengths. The eventual power and speed gains, however, come with an increase in complexity and in design considerations; random variations in the manufacturing process induce variations in circuit device parameters and effectively lead to low-yield designs. Design verification is constantly becoming more cumbersome for circuit design, especially in the case of analog circuits.Circuit designers have traditionally resorted to Electronic Design Automation (EDA) tools for complex circuit design. Given sets of device compact models, named Process Development Kits (PDKs), EDA tools can simulate complex circuits and can be used for verification purposes. In the case of digital circuitry, established EDA tools provide automation solutions for designers to avoid cumbersome, repetitive tasks and focus on the core design. Analog and Radio-Frequency (RF) circuit design, however, has no established means of automation.This thesis presents methodologies for analog and RF circuit automatic sizing. From a high-level perspective, the contributions of this work lie in two factors; 1) The proposal of a family of black-box optimization algorithms, which take advantage of recent machine learning developments to accelerate and improve the exploration of the circuit’s design space, and 2) the development of a framework for procedural simulation execution and optimization definition, based on commercial circuit simulators. The proposed framework exposes a user-friendly Application Process Interface (API) that can be used by designers to execute ad-hoc optimization problems and guide the sizing of their circuit.The first thrust of this thesis is the study of automatic circuit sizing in the context of black-box simulation-driven optimization. We apply and compare black-box optimization algorithms for the nominal sizing of analog and RF circuits, compare their performance and discuss their ability to provide feasible solutions within given evaluation budgets or time-frames. Taking into account that most black-box algorithms operate on continuous spaces, we define a new mutation and crossover operation for Evolutionary Algorithms (EAs) and apply it for circuit sizing. The aforementioned principles are studied for both the case of Single-Objective (SO) optimization and Multi-Objective (MO) one, when design-space exploration and feasible performance space needs to be found.To reduce the cost of optimization in the sense of reducing the number of costly evaluations, we consider next the case of low budget optimization algorithms. In this setting, a new SO Bayesian Optimization (BO) algorithm is introduced. The use of Gaussian Processes (GPs) and a new, batched acquisition function relying on Thompson Sampling (TS) reduces the effective time for each optimization run. Taken into account the fact Gaussian Processes require O(n3) time for inference, kernel approximations are introduced to the GPs by using inducing points. In addition to the above, a new framework is proposed in which the GP models are restricted to model certain hypercubes of the design space. This approach, which is motivated by the concept of trust-regions in the EA literature, provides exquisite constraint-handling capabilities, is scalable in terms of input parameter space and proves favorable against other BO approaches as well as other EA algorithms.To extend the concept of local-based BO in the case of multiple objectives, a new, batched, Local Constrained Multi-Objective Bayesian Optimization (LoCoMOBO) approach is put forward. This MO optimization algorithm not only assists designers to size circuit-blocks, but also to assess the attainable performance metrics of a given topology. LoCoMOBO utilizes trust regions, and uses a Hypervolume-based acquisition function to define future query points for evaluation. In addition, TS is replaced with Random Fourier Features so as to ensure both that the design space is properly explored, in high-dimensional spaces.To efficiently traverse mixed-variable input-spaces, where some parameters are continuous while others are integer-valued or categorical ones, a deep learning scheme that derives continuous representations of integrated devices is put forward. The core model is a Variational Autoencoder (VAE), which uses label guidance to transform the devices’ input parameters to continuous-valued latent ones. The original device parameters are substituted by the VAE’s latent variables in the optimization-based automatic sizing formulation, which is solved using the proposed local-based BO with satisfactory results.In the final chapter, the conclusions of the conducted research are drawn, guidelines for future work are provided and potential impact on industry and society is discussed.

Για δεκαετίες, η βιομηχανία ημιαγωγών και ηλεκτρονικών έχει επιδείξει μεγάλη ανάπτυξη, κυρίως λόγω της αδιάκοπης συρρίκνωσης των διαστάσεων των τρανζίστορ. Ολοκληρωμένα κυκλώματα σε τεχνολογίες κάτω του ενός μικρόμετρου έχουν χρησιμοποιηθεί ευρέως σε εμπορικές ηλεκτρονικές συσκευές. Στις μέρες μας, καθώς ο νόμος του Moore πλησιάζει στο τέλος του, η διάσταση των τρανζίστορ έχει φτάσει σε πολύ μικρά μεγέθη. Τα κέρδη σε ενεργειακή απόδοση και ταχύτητα που προκύπτουν, όμως, επιφυλάσσουν δυσκολίες στην σχεδίαση: οι μη ιδανικές συνθήκες κατά την διαδικασία κατασκευής προκαλούν διακυμάνσεις στις παραμέτρους των τρανζίστορ του κυκλώματος και οδηγούν ουσιαστικά σε κυκλώματα χαμηλής απόδοσης. Η επαλήθευση της λειτουργίας ενός κυκλώματος γίνεται συνεχώς πιο επίπονη για τους σχεδιαστές, ιδιαίτερα στην περίπτωση των αναλογικών ολοκληρωμένων κυκλωμάτων.Οι σχεδιαστές κυκλωμάτων παραδοσιακά χρησιμοποιούν εργαλεία αυτοματοποίησης ηλεκτρονικού σχεδιασμού (Electronic Design Automation - EDA) για την σχεδίαση περίπλοκων κυκλωμάτων. Με δεδομένο ένα σύνολο από μοντέλα των διατάξεων ημιαγωγών, τα οποία αναφέρονται ως Process Development Kits (PDKs), τα εργαλεία αυτά μπορούν να προσομοιώνουν περίπλοκα κυκλώματα και να χρησιμοποιηθούν για επαλήθευση. Στην περίπτωση των ψηφιακών ολοκληρωμένων κυκλωμάτων, καθιερωμένα εργαλεία σχεδίασης EDA χρησιμοποιούνται από τους σχεδιαστές για να την εκπόνηση επαναλαμβανόμενων διεργασιών, γεγονός που διασφαλίζει την αποδοτική την εργασία τους και την ποιότητα του τελικού προϊόντος. Στην περίπτωση των αναλογικών και τηλεπικοινωνιακών κυκλωμάτων, όμως, παρόμοια εργαλεία δεν είναι διαθέσιμα.Η διατριβή αυτή παρουσιάζει μεθοδολογίες για την αυτόματη διαστασιοποίηση αναλογικών και τηλεπικοινωνιακών κυκλωμάτων. Από γενικής άποψης, η συνεισφορά της δουλειάς που παρουσιάζεται εντοπίζεται σε δύο σημεία: 1) Την πρόταση μιας οικογένειας αλγορίθμων βελτιστοποίησης μαύρου κουτιού (black box), οι οποίοι χρησιμοποιούν πρόσφατες τεχνικές μηχανικής μάθησης για να επιταχύνουν και να βελτιώσουν την εξερεύνηση του χώρου λύσεων των προβλημάτων βελτιστοποίησης κυκλωμάτων και 2) την ανάπτυξη ενός εργαλείου για την διαδικαστική εκτέλεση προσομοιώσεων και τον ορισμό προβλημάτων βελτιστοποίησης, με χρήση εμπορικών προσομοιωτών. Το εργαλείο προσφέρει μία φιλική προς τον χρήστη διεπαφή διαδικασίας εφαρμογής (API) που μπορεί να χρησιμοποιηθεί από τους σχεδιαστές για την εκτέλεση προβλημάτων βελτιστοποίησης και να καθοδηγήσει την διαστασιοποίηση των στοιχείων του κυκλώματος.Το πρώτο μέρος της διατριβής περιλαμβάνει την μελέτη της αυτόματης διαστασιοποίησης κυκλωμάτων με χρήση βελτιστοποίηση μαύρου κουτιού και εμπορικών προσομοιωτών. Εφαρμόζουμε και συγκρίνουμε αλγόριθμους μαύρου κουτιού για την τυπική, χωρίς διακυμάνσεις, διαστασιοποίηση αναλογικών και τηλεπικοινωνιακών κυκλωμάτων και σχολιάζουμε τις αποδόσεις τους ως προς την εύρεση εφικτών λύσεων μέσα σε χρονικά ή υπολογιστικά όρια. Δεδομένου ότι η πλειοψηφία των αλγορίθμων μαύρου κουτιού εφαρμόζεται σε συνεχείς χώρους αναζήτησης, ορίζουμε καινούριους τελεστές διασταύρωσης και μετάλλαξης για Εξελικτικούς Αλγόριθμους και τους χρησιμοποιούμε στη διαστασιοποίησηκυκλωμάτων. Οι τελεστές αυτοί εξετάζονται τόσο στα πλαίσια βελτιστοποίησης ενός όσο και πολλαπλών στόχων, όπου ισχύουν περιορισμοί για την απόδοση των κυκλωμάτων.Για να μειωθεί το κόστος της βελτιστοποίησης όσον αφορά τον αριθμό των κοστοβόρων προσομοιώσεων, εξετάζουμε επίσης την κλάση των αλγορίθμων βελτιστοποίησης χαμηλής δειγματοληψίας του χώρου αναζήτησης. Σε αυτή την περίπτωση, ένας νέος αλγόριθμος Μπεϋζιανής βελτιστοποίησης ενός στόχου προτείνεται. Η χρήση Γκαουσιανών διαδικασιών και μιας νέας συνάρτησης απόκτησης που βασίζεται στην τεχνική Thompson Sampling μειώνει αποτελεσματικά τον χρόνο εκτέλεσης της βελτιστοποίησης. Δεδομένου ότι οι Γκαουσιανές διαδικασίες έχουν O(n3) πολυπλοκότητα για πρόβλεψη, περιλαμβάνουμε ένα προσεγγιστικό πυρήνα με χρήση σημείων επιρροής. Επιπρόσθετα, προτείνουμε μία καινούρια μεθοδολογία στην οποία οι Γκαουσιανές διαδικασίες περιορίζονται εντός υπερκύβων στον χώρο αναζήτησης. Αυτή η προσέγγιση, που αντλεί έμπνευση από την ιδέα της περιοχής εμπιστοσύνης στην βιβλιογραφία των Εξελικτικών Αλγορίθμων, παρουσιάζει εξαιρετική δυνατότητα στην εύρεση εφικτών λύσεων, κλιμακώνεται σε σχέση με την διάσταση του χώρου αναζήτησης και αποδεικνύεται προτιμιτέα σε σχέση με άλλους αλγόριθμους Μπεϋζιανής βελτιστοποίησης καθώς και άλλους Εξελικτικούς αλγόριθμους.Για την επέκταση της ιδέας της τοπικής Μπεϋζιανής βελτιστοποίησης σε προβλήματα πολλαπλών στόχων, προτείνεται μία νέα, παράλληλη, τοπική Μπεϋζιανή Βελτιστοποίηση Πολλαπλών στόχων με περιορισμούς (Local Constrained Multi Objective Bayesian Optimization - LoCoMOBO). Ο αλγόριθμος αυτός πολλαπλών στόχων βοηθά τους σχεδιαστές όχι μόνο να διαστασιοποιήσουν τα κυκλώματά τους αυτόματα, αλλά και να έχουν εκτιμήσεις για τις εφικτές αποδόσεις διαφόρων κυκλωματικών τοπολογιών. Ο LoCoMOBO χρησιμοποιεί περιοχές εμπιστοσύνης και μια συνάρτηση απόκτησης που χρησιμοποιεί τιμές υπερόγκου για να ορίσει τα επόμενα σημεία που θα γίνουν προσομοίωση. Επιπλέον, η διαδικασία Thompson Sampling χρησιμοποιεί Τυχαία Χαρακτηριστικά Φουριέ έτσι ώστε να γίνεται καλύτερη εξερεύνηση του χώρου εισόδου, ακόμη και σε πολλές διαστάσεις.Για την αποτελεσματική εξερεύνηση χώρων αναζήτησης με μικτού τύπου μεταβλητές, όπου ορισμένες παράμετροι είναι συνεχείς ενώ άλλες είναι ακέραιοι αριθμοί ή κατηγορικές μεταβλητές, προτείνεται μία μέθοδος βαθιάς μηχανικής μάθησης που παρέχει συνεχείς αναπαραστάσεις για τα κυκλωματικά στοιχεία. Το κυρίως μοντέλο είναι ένας εναλλασσόμενος κωδικοποιητής που χρησιμοποιεί καθοδήγηση επιγραφής για να μετατρέψει τις παραμέτρους των στοιχείων σε συνεχείς μεταβλητές. Οι λανθάνουσες μεταβλητές του μοντέλου, που είναι συνεχείς, αντικαθιστούν τις μεταβλητές των στοιχείων στον ορισμό του προβλήματος βελτιστοποίησης. Η επίλυση του προβλήματος με τον νέο ορισμό γίνεται με την προτεινόμενη Μπεϋζιανή Βελτιστοποίηση και επιδεικνύει ικανοποιητικά αποτελέσματα.Στο τελικό κεφάλαιο, τα συμπεράσματα της έρευνας που διεξήχθη διατυπώνονται, κατευθύνσεις για μελλοντικές εξελίξεις της δουλειάς αναφέρονται και συζητείται η πιθανή επιρροή της δουλειάς αυτής στην βιομηχανία και την κοινωνία.