Harnessing memristor circuits and device variability in emergent computing applications

Abstract

Contemporary electronic systems demonstrate unprecedented capabilities in information storage and processing by utilizing the modern nanoscale complementary metal-oxide-semiconductor (CMOS) technology and the general-purpose von Neumann computer architecture. Nevertheless, with the increasing amount of information collection and the necessity for its computationally-demanding processing, conventional technology and computing architecture struggle to keep pace, as they meet their respective limitations either from physical or practical standpoints, i.e. miniaturization limits, increasing costs, heat and energy consumption. Novel approaches to both technology and computing architecture have been intensively investigated in recent decades, aiming at the development of innovative electronic systems with advanced energy efficiency, speed of operation, and compact integration area.In this vein, the memristor, a novel electronic component with nanometer dimensions, comes as a promising candidate to push the limits of recent technology and computing. Materialized roughly a decade ago, memristor devices provide unprecedented features for a single electronic device, such as non-volatile analog information storage with fast and low power operation. Utilizing this feature, memristors are currently used in emerging memory technologies, as well as constituting the leading technology for future artificial neural networks and neuromorphic computing hardware implementations. However, technologically speaking, memristor devices are still in their infancy, as they are still facing major issues that hinder their wide commercialization. Firstly, the modeling of their conduction mechanisms and dynamical behavior is still being investigated, and we are far from a standard memristor model that accurately captures the characteristics of fabricated memristor devices. In addition, the existing memristor models that achieve an accurate description of the device dynamics struggle with numerical stability issues that affect their proper utilization in circuit simulators. Secondly, due to the memristor's nature, the adjustment of its conductivity arises from intrinsically stochastic processes, e.g. ion migration, which result in high variability during the operation of the device, also affecting its functionality within a circuit.Aiming to deal with the aforementioned issues in the context of this Ph.D. thesis, memristor device modeling has been addressed in a two-fold approach. On one hand, working on an existing physics-based memristor model, the necessary mathematical transformations are performed to derive an analytical and transcendental form of the device's dynamical behavior under constant positive and negative stimulus, respectively, enabling the analytical study of the memristor's programming. Beyond the deterministic model, a probabilistic mathematical framework for stochasticity-aware memristor modeling has been developed based on the master equations of Markov jump processes. The proposed framework captures the probabilistic switch of memristor devices that originates from the device's intrinsic stochasticity. Apart from binary stochastic switching, this approach allows multiple finite states, for the first time, providing versatility and further accuracy in probabilistic memristor modeling.From a circuit design perspective, the memristor's stochasticity imposes detrimental variability on the programming of memristor devices. To tackle this problem, I adopted a counter-intuitive approach where noise is added to the programming signals to enhance the memristor's switching ability. Such an approach is based on the nonlinear system phenomenon called Stochastic Resonance (SR), which postulates that a properly selected noisy signal can improve the performance of a nonlinear system. Originally, SR was used to enhance the resistance window of a memristor. Then, in this thesis, that phenomenon was studied for a wider variety of memristor models, including device variability, which was also demonstrated with experimental measurements on single memristor devices. A detailed study on the noise-aided programming of a memristor in ReRAM memory cells, either individually or in an array, has been performed, showcasing the power-efficiency of the proposed noise-aided approach as the nominal programming voltage amplitudes can be reduced in the presence of noise without damaging the programming accuracy.Beyond facing the memristor's stochasticity as a detrimental characteristic, its beneficial exploitation within a novel computing paradigm has been investigated during this thesis. Considering a powerful emerging computing setup known as Cellular Automata (CA), memristor devices are incorporated into the CA array as part of the simplistic locally interacting computing units, named CA cells, that it is composed of. Originally proposed as a deterministic tool, CA's abilities are expanded after the memristor's probabilistic switching is embedded into the CA cells, establishing the novel memristor-based Probabilistic CA (MemPCA). Given its simplest form, the Elementary CA, where each cell contains a binary state and the range of cell interaction is limited to the minimum possible, i.e. the two adjacent cells in a 1D grid, the effect of the memristor's probabilistic switching has been studied for all the cell interaction rules, resulting in the improvement of system entropy for a certain amount of switching probability. Moreover, the first transistor-level implementation of ECA with the all-memristor approach has been performed, with memristor devices participating in both cell and rule modules. The proposed novel MemPCA implementation is able to achieve high operation speed and low area requirements, while also incorporating an ultra-fast source of entropy per cell, i.e. the memristor device. The functionality of the system is showcased in both deterministic and probabilistic operations, which can be adjusted by externally selected parameters without any modification to the design. Lastly, the proposed MemPCA approach also provides a reconfigurable implementation of the rule module that enables both spatial and temporal rule inhomogeneity.

Τα σύγχρονα ηλεκτρονικά συστήματα επιδεικνύουν πρωτοφανείς δυνατότητες αποθήκευσης και επεξεργασίας πληροφοριών, χρησιμοποιώντας τη σύγχρονη τεχνολογία συμπληρωματικού μετάλλου-οξειδίου-ημιαγωγού (CMOS) σε νανοκλίμακα και την αρχιτεκτονική υπολογιστών γενικής χρήσης von Neumann. Παρ' όλα αυτά, με την αύξηση του όγκου της συλλογής πληροφοριών και την ανάγκη για την υπολογιστικά απαιτητική επεξεργασία τους, οι συμβατικές τεχνολογία και αρχιτεκτονική υπολογιστών δυσκολεύονται να συμβαδίσουν, καθώς συναντούν τους αντίστοιχους περιορισμούς τους είτε από φυσικής είτε από πρακτικής άποψης, δηλαδή τα όρια σμίκρυνσης, το αυξανόμενο κόστος, τη θερμότητα και την κατανάλωση ενέργειας. Τις τελευταίες δεκαετίες διερευνώνται εντατικά νέες προσεγγίσεις τόσο στην τεχνολογία όσο και στην αρχιτεκτονική υπολογιστών, με στόχο την ανάπτυξη καινοτόμων ηλεκτρονικών συστημάτων με προηγμένη ενεργειακή απόδοση, ταχύτητα λειτουργίας και μικρό εμβαδόν ολοκλήρωσης.Σε αυτή την κατεύθυνση, το memristor, ένα νέο ηλεκτρονικό στοιχείο με διαστάσεις στην κλίμακα του νανομέτρου, έρχεται ως ένας πολλά υποσχόμενος υποψήφιος για να διευρύνει τα όρια της τρέχουσας προηγμένης τεχνολογίας και των υπολογιστικών συστημάτων. Με την πρώτη τους υλοποίηση να χρονολογείται πριν από περίπου μια δεκαετία, οι διατάξεις memristor παρέχουν πρωτοφανή χαρακτηριστικά ως μία ηλεκτρονική διάταξη, όπως η μη πτητική αναλογική αποθήκευση πληροφοριών με γρήγορη και χαμηλής ισχύος λειτουργία. Αξιοποιώντας αυτό το χαρακτηριστικό, τα memristor χρησιμοποιούνται επί του παρόντος σε ανερχόμενες τεχνολογίες μνήμης, καθώς και αποτελούν την κορυφαία τεχνολογία για μελλοντικές υλοποιήσεις κυκλωμάτων τεχνητών νευρωνικών δικτύων και νευρομορφικών υπολογιστών. Ωστόσο, από τεχνολογική άποψη, οι διατάξεις memristor βρίσκονται σε πρώιμο στάδιο, καθώς αντιμετωπίζουν ακόμη σημαντικά ζητήματα που εμποδίζουν την ευρεία εμπορική τους αξιοποίηση. Πρώτον, η μοντελοποίηση των μηχανισμών αγωγής και της δυναμικής συμπεριφοράς τους βρίσκεται ακόμη υπό διερεύνηση και απέχουμε πολύ από ένα πρότυπο μοντέλο memristor που να αποτυπώνει με ακρίβεια τα χαρακτηριστικά των κατασκευασμένων διατάξεων memristor. Επιπλέον, τα υπάρχοντα μοντέλα memristor που επιτυγχάνουν ακριβή περιγραφή της δυναμικής της διάταξης αντιμετωπίζουν ζητήματα αριθμητικής σταθερότητας που επηρεάζουν τη σωστή αξιοποίησή τους σε προσομοιωτές κυκλωμάτων. Δεύτερον, λόγω της φύσης του memristor, η προσαύξηση της αγωγιμότητάς του προκύπτει από εγγενώς στοχαστικές διαδικασίες, π.χ. η μετακίνηση ιόντων, οι οποίες οδηγούν σε υψηλή μεταβλητότητα κατά τη λειτουργία της διάταξης, επηρεάζοντας επίσης τη λειτουργικότητά της μέσα σε ένα κύκλωμα.Με στόχο την αντιμετώπιση των προαναφερθέντων ζητημάτων στο πλαίσιο της παρούσας διδακτορικής διατριβής, η μοντελοποίηση της διάταξης memristor αντιμετωπίστηκε με μια διττή προσέγγιση. Αφενός, έχοντας ως βάση ένα υπάρχον μοντέλο memristor με βάση τη φυσική, πραγματοποιούνται οι απαραίτητοι μαθηματικοί μετασχηματισμοί για την εξαγωγή μιας αναλυτικής και υπερβατικής μορφής της δυναμικής συμπεριφοράς της διάταξης υπό σταθερή θετική και αρνητική διέγερση, αντίστοιχα, επιτρέποντας την αναλυτική μελέτη του προγραμματισμού του memristor. Πέρα από το ντετερμινιστικό μοντέλο, έχει αναπτυχθεί ένα πιθανοκρατικό μαθηματικό πλαίσιο για τη μοντελοποίηση του memristor με γνώμονα τη στοχαστικότητα, το οποίο βασίζεται στις κύριες εξισώσεις των διεργασιών άλματος Markov. Το προτεινόμενο πλαίσιο αποτυπώνει την πιθανοκρατική μεταγωγή των διατάξεων memristor που προέρχεται από την εγγενή στοχαστικότητα της διάταξης. Εκτός από τη δυαδική στοχαστική μεταγωγή, η προσέγγιση αυτή επιτρέπει για πρώτη φορά πολλαπλές πεπερασμένες καταστάσεις, παρέχοντας ευελιξία και περαιτέρω ακρίβεια στην πιθανοκρατική μοντελοποίηση των memristor.Από τη σκοπιά της σχεδίασης κυκλωμάτων, η στοχαστικότητα του memristor επιβάλλει επιζήμια μεταβλητότητα στον προγραμματισμό των διατάξεων memristor. Για την αντιμετώπιση αυτού του προβλήματος, υιοθέτησα μια αντισυμβατική προσέγγιση όπου ο θόρυβος προστίθεται στα σήματα προγραμματισμού για να ενισχυθεί η ικανότητα μεταγωγής του memristor. Μια τέτοια προσέγγιση βασίζεται στο φαινόμενο του μη γραμμικού συστήματος που ονομάζεται Στοχαστικός Συντονισμός (Stochastic Resonance - SR), το οποίο υποστηρίζει ότι ένα κατάλληλα επιλεγμένο θορυβώδες σήμα μπορεί να βελτιώσει την απόδοση ενός μη γραμμικού συστήματος. Αρχικά, ο SR χρησιμοποιήθηκε για την ενίσχυση του παραθύρου αντίστασης μιας διάταξης memristor. Στη συνέχεια, στην παρούσα διατριβή, το φαινόμενο αυτό μελετήθηκε για μια ευρύτερη ποικιλία μοντέλων memristor, συμπεριλαμβανομένης της μεταβλητότητας της διάταξης, το φαινόμενο αποδείχθηκε επίσης με πειραματικές μετρήσεις σε μεμονωμένες διατάξεις memristor. Πραγματοποιήθηκε λεπτομερής μελέτη για τον υποβοηθούμενο από θόρυβο προγραμματισμό ενός memristor σε κυψέλες μνήμης ReRAM, είτε μεμονωμένα είτε σε συστοιχία διασταυρωμένων αγωγών, αναδεικνύοντας την αποδοτικότητα της προτεινόμενης προσέγγισης υποβοηθούμενης από θόρυβο ως προς την καταναλισκόμενη ισχύ, καθώς τα ονομαστικά πλάτη τάσης προγραμματισμού μπορούν να μειωθούν παρουσία θορύβου χωρίς να βλάπτεται η ακρίβεια προγραμματισμού.Πέρα από την αντιμετώπιση της στοχαστικότητας του memristor ως επιζήμιο χαρακτηριστικό, η εκμετάλλευσή του στο πλαίσιο ενός νέου υπολογιστικού παραδείγματος διερευνήθηκε κατά τη διάρκεια αυτής της διατριβής. Λαμβάνοντας υπόψη μια δομή Αναδυόμενων Υπολογισμών, γνωστή ως Κυψελιδωτά Αυτόματα (Cellular Automata - CA), η διάταξη memristor ενσωματώνεται στη συστοιχία CA ως μέρος των απλοϊκών τοπικά αλληλεπιδρώντων υπολογιστικών μονάδων, που ονομάζονται κυψελίδες (CA cells), οι οποίες την αποτελούν. Ενώ αρχικά έχουν προταθεί ως ντετερμινιστικές δομές, οι ικανότητες των CA επεκτείνονται μετά την ενσωμάτωση της πιθανοκρατικής μεταγωγής του memristor στις κυψελίδες, καθιερώνοντας τη νέα δομή Πιθανοκρατικών Κυψελιδωτών Αυτομάτων με memristor (memristor-based Probabilistic CA - MemPCA). Έχοντας της απλούστερη μορφή CA, τα στοιχειώδη κυψελιδωτά αυτόματα (Elementary Cellular Automata - ECA), όπου κάθε κελί περιέχει μια δυαδική κατάσταση και το εύρος της αλληλεπίδρασης των κελιών περιορίζεται στο ελάχιστο δυνατό, δηλαδή στα δύο γειτονικά κελιά σε ένα μονοδιάστατο πλέγμα, μελετήθηκε η επίδραση της πιθανοκρατικής μεταγωγής των memristor για όλους τους κανόνες αλληλεπίδρασης των κυψελίδων, με αποτέλεσμα τη βελτίωση της εντροπίας του συστημάτος σε ορισμένο ποσό πιθανότητας μεταγωγής. Επιπλέον, πραγματοποιήθηκε η πρώτη εφαρμογή των ECA σε επίπεδο τρανζίστορ με την χρήση μίας προσέγγισης που βασίζεται ολοκληρωτικά σε memristor, που συμμετέχουν τόσο στο κύκλωμα των κυψελίδων όσο και σε εκείνο των κανόνων. Η προτεινόμενη νέα υλοποίηση MemPCA είναι σε θέση να επιτύχει υψηλή ταχύτητα λειτουργίας και χαμηλές απαιτήσεις σε επιφάνεια ολοκληρωσης, ενώ παράλληλα ενσωματώνει μια εξαιρετικά γρήγορη πηγή εντροπίας ανά κυψελίδα, δηλαδή τη διάταξη memristor. Η λειτουργικότητα του συστήματος επιδεικνύεται τόσο σε ντετερμινιστικές όσο και σε πιθανοκρατικές λειτουργίες, οι οποίες μπορούν να προσαρμόζονται από εξωτερικά επιλεγμένες παραμέτρους, χωρίς καμία τροποποίηση του κυκλώματος. Τέλος, η προτεινόμενη προσέγγιση MemPCA παρέχει επίσης αναδιαμορφώσιμη υλοποίηση της μονάδας κανόνων που επιτρέπει τόσο τη χωρική όσο και τη χρονική ανομοιογένεια των κανόνων.

Los sistemas electrónicos contemporáneos demuestran una capacidad sin precedentes de almacenamiento y procesamiento de la información, al utilizar la moderna tecnología de Metal Oxido Semiconductor Complementarios (CMOS) a nanoescala y la arquitectura de proceso de datos de von Neumann de propósito general. Sin embargo, con el aumento de la cantidad de información recopilada y la necesidad de su procesamiento, que es muy exigente desde el punto de vista computacional, la tecnología y la arquitectura de computación convencionales luchan por mantener el ritmo, ya que se encuentran con sus respectivas limitaciones, ya sea desde el punto de vista físico o práctico, es decir, los límites de miniaturización, el aumento de los costes, el calor y el consumo de energía. En las últimas décadas se han investigado intensamente enfoques novedosos tanto de la tecnología como de la arquitectura de computación, con el objetivo de desarrollar sistemas electrónicos innovadores con una eficiencia energética avanzada, velocidad de funcionamiento y área de integración compacta.

En este sentido, el memristor, un novedoso componente electrónico de dimensiones nanométricas, se presenta como un candidato prometedor para ampliar los límites de la tecnología y la computación recientes. Materializados hace aproximadamente una década, los dispositivos memristores ofrecen características sin precedentes para un dispositivo electrónico, como el almacenamiento de información analógica no volátil con un funcionamiento rápido y de bajo consumo. Utilizando esta característica, los memristores se utilizan actualmente en las tecnologías de memoria emergentes, además de constituir la tecnología líder para las futuras redes neuronales artificiales y las implementaciones de hardware de computación neuromórfica. Sin embargo, desde el punto de vista tecnológico, los dispositivos de memristores aún están en pañales, ya que todavía se enfrentan a importantes problemas que dificultan su amplia comercialización. En primer lugar, el modelado de sus mecanismos de conducción y su comportamiento dinámico todavía se está investigando, y estamos lejos de un modelo de memristor estándar que capture con precisión las características de los dispositivos de memristor fabricados. Además, los modelos de memristores existentes que logran una descripción precisa de la dinámica del dispositivo luchan con problemas de estabilidad numérica que afectan a su correcta utilización en los simuladores de circuitos. En segundo lugar, debido a la naturaleza del memristor, el ajuste de su conductividad surge de procesos intrínsecamente estocásticos, por ejemplo, la migración de iones, que dan lugar a una alta variabilidad durante el funcionamiento del dispositivo, afectando también a su funcionalidad dentro de un circuito.

Con el objetivo de abordar los problemas mencionados en el contexto de esta tesis doctoral, el modelado del dispositivo memristor se ha abordado en un doble enfoque. Por un lado, partiendo de un modelo existente de memristor basado en la física, se realizan las transformaciones matemáticas necesarias para derivar una forma analítica y trascendental del comportamiento dinámico del dispositivo bajo estímulos constantes positivos y negativos, respectivamente, permitiendo el estudio analítico de la programación del memristor. Más allá del modelo determinista, se ha desarrollado un marco matemático probabilístico para el modelado de memristores con conciencia de estocasticidad, basado en las ecuaciones maestras de los procesos de salto de Markov. El marco propuesto captura la conmutación probabilística de los dispositivos memristores que se origina en la estocasticidad intrínseca del dispositivo. Aparte de la conmutación estocástica binaria, este enfoque permite múltiples estados finitos, por primera vez, proporcionando versatilidad y mayor precisión en el modelado probabilístico de memristores.

Desde la perspectiva del diseño de circuitos, la estocasticidad del memristor impone una variabilidad perjudicial en la programación de los dispositivos de memristor. Para abordar este problema, adopté un enfoque contraintuitivo en el que se añade ruido a las señales de programación para mejorar la capacidad de conmutación del memristor. Este enfoque se basa en el fenómeno de los sistemas no lineales llamado Resonancia Estocástica (SR), que postula que una señal ruidosa adecuadamente seleccionada puede mejorar el rendimiento de un sistema no lineal. Originalmente, la SR se utilizaba para mejorar la ventana de resistencia de un memristor. Luego, en esta tesis, se estudió ese fenómeno para una variedad más amplia de modelos de memristores, incluyendo la variabilidad del dispositivo, que también se demostró con mediciones experimentales en dispositivos de memristores individuales. Se ha realizado un estudio detallado sobre la programación asistida por ruido de un memristor en celdas de memoria ReRAM, ya sea individualmente o en un array, mostrando la eficiencia energética del enfoque asistido por ruido propuesto, ya que las amplitudes de la tensión nominal de programación pueden reducirse en presencia de ruido sin dañar la precisión de la programación.

Más allá de afrontar la estocasticidad de los memristores como una característica perjudicial, durante esta tesis se ha investigado su explotación beneficiosa dentro de un nuevo paradigma de computación. Considerando una poderosa configuración de computación emergente conocida como Autómatas Celulares (CA), los dispositivos memristores se incorporan a la matriz de CA como parte de las unidades de computación simplistas que interactúan localmente, llamadas células de CA, que la componen. Propuesto originalmente como una herramienta determinista, las capacidades del CA se amplían después de que la conmutación probabilística de los memristores se incorpore a las celdas del CA, estableciendo el novedoso CA Probabilístico basado en memristores (MemPCA). Teniendo en cuenta su forma más simple, el CA elemental, en el que cada celda contiene un estado binario y el rango de interacción de las celdas se limita al mínimo posible, es decir, las dos celdas adyacentes en una cuadrícula 1D, se ha estudiado el efecto de la conmutación probabilística del memristor para todas las reglas de interacción de las celdas, dando como resultado la mejora de la entropía del sistema para una determinada cantidad de probabilidad de conmutación. Además, se ha realizado la primera implementación de ECA a nivel híbrida de transistor-memristor, con dispositivos memristores que participan tanto en los módulos de celdas como en los de reglas. La novedosa implementación de MemPCA propuesta es capaz de alcanzar una alta velocidad de operación y unos requisitos de área bajos, al tiempo que incorpora una fuente ultrarrápida de entropía por celda, es decir, el dispositivo memristor. La funcionalidad del sistema se muestra tanto en operaciones deterministas como probabilísticas, que pueden ajustarse mediante parámetros seleccionados externamente sin necesidad de modificar el diseño. Por último, el enfoque MemPCA propuesto también proporciona una implementación reconfigurable del módulo de reglas que permite la inhomogeneidad espacial y temporal de las mismas.