Advanced photonic technologies for data centre networks

Abstract

Data centres are becoming a core technological pillar of the 21st century since the modern way of life results in the production of vast amounts of data that need to be stored and processed in order to empower common everyday operations from online video and music streaming to GPS guidance, e-banking, and social networks. This growth in data generation is not slowing down with new trends like the Internet of Things, Machine Learning applications, autonomous driving, etc. accelerating not only the rate of data generation but the need for more processing as well. As a consequence, the global internet traffic rises, and the intra-data centre traffic rises even faster since each HTTP request of a few Kbytes subsequently generates hundreds or even thousands more Kbytes of intra-data centre network traffic. The total traffic handled by the data centres is putting tremendous pressure on their internal networks. In large data centres with tens of thousands of servers, Top-of-Rack electro-optic switches are used to interconnect servers in a group of 40 per rack, commonly organized in multi-layer architectures. These architectures have intrinsic pain points in terms of bandwidth, latency, costs and power consumption and they are becoming critically limiting figures of merit in the design of future data centre networks. To improve the performance and lower the operation costs, photonic interconnect-based technologies are proposed since they have the potential to efficiently exploit the space, time, and wavelength domains. Photonic interconnects can empower new architectures, based on different network topologies that can lead to significant improvements over traditional electronic network architectures. In this study, we introduce P-Torus, a novel reduced-tier architecture for intra-data centre networks, that is based on 2D Tori interconnected clusters. P-Torus exploits wavelength switching at the packet level, empowered by fast tunable transmitters. The proposed architecture can provide single-hop, contention-less, and low-latency interconnection among all Top-of-Rack switches in a data centre. Through detailed numerical simulations, we show that P-Torus exhibits low end-to-end latency and high throughput, even under high loads and hot-spot traffic. At the same time, P-Torus has significant benefits over other contemporary, wavelength-based switching architectures in terms of CapEx but also OpEx due to the photonics-based passive switching elements. Comparative simulations and cost analysis show that P-Torus provides a very good trade-off between performance and cost compared to other wavelength-based switching architectures targeting small and medium data centres. We also introduce a more advanced variant of the P-Torus architecture, based on the 3- dimensional torus topology. 3D P-Torus achieves even more impressive latency and throughput performance compared to the 2D variant of the P-Torus architecture and other intra-DC architectures that are also based on wavelength switching. Due to the single- hop communication design between On-Rack Switches. All performance features of the 3D P-Torus are calculated through detailed simulations. 3D P-Torus can support, with no need for amplification, medium-sized DCs up to 10k servers, making it an excellent candidate for an Edge Data Centre, considering its excellent low end-to-end latency. Photonic interconnect technologies can offer viable solutions to other problems that current data centres face as well like the lack of reconfigurability and dynamic bandwidth allocation as well as the increasing cable entropy. Thus, we examine the case of using wireless communication solutions for intra-data centre networking as a way to overcome these problems that standard fibre-based solutions suffer from, like cable entropy and lack of reconfigurability and dynamic bandwidth allocation, and we offered a quick overview of the most promising existing approaches. Considering the aforementioned study, we introduce a novel Free Space Optical interconnect solution for intra-data centre networks. Our solution utilizes two-dimensional Optical Beam Steering for the transmitter, and high bandwidth wide-area photodiode arrays for the receiver and can offer ns switching speeds at sub-μW consumption. Moreover, we propose an intra-data centre networking architecture that efficiently utilises those devices and could fulfil the requirements of seamless operation, high connectivity, and agility.

Τα κέντρα δεδομένων αποτελούν βασικό τεχνολογικό πυλώνα του 21ου αιώνα, καθώς ο σύγχρονος τρόπος ζωής οδηγεί στην παραγωγή τεράστιων όγκων δεδομένων που πρέπει να αποθηκευτούν και να επεξεργαστούν προκειμένου να πραγματοποιηθούν καθημερινές λειτουργίες: από την online παρακολούθηση βίντεο έως την καθοδήγηση μέσω GPS, τις λειτουργίες e-banking και την πρόσβασή στα κάθε λογής κοινωνικά δίκτυα. Αυτή η αύξηση της παραγωγής δεδομένων επιταχύνεται με νέες τάσεις όπως το Διαδίκτυο των Πραγμάτων / Internet of Things, οι εφαρμογές μηχανικής μάθησης, η αυτόνομη οδήγηση κ.λπ. διογκώνοντας όχι μόνο τον ρυθμό παραγωγής δεδομένων αλλά και την ανάγκη για περισσότερη επεξεργασία αυτών. Κατά συνέπεια, η παγκόσμια κίνηση στο Διαδίκτυο αυξάνεται και η κίνηση στα κέντρα δεδομένων αυξάνεται ακόμη γρηγορότερα αφού κάθε αίτημα HTTP μερικών Kbytes παράγει στη συνέχεια εκατοντάδες ή και χιλιάδες ακόμη Kbytes κίνησης στο δίκτυα εντός των κέντρων δεδομένων. Η συνολική κίνηση που διαχειρίζονται τα κέντρα δεδομένων ασκεί τεράστια πίεση στα εσωτερικά τους δίκτυα. Σε μεγάλα κέντρα δεδομένων με δεκάδες χιλιάδες διακομιστές, οι ηλεκτρο-οπτικοί μεταγωγείς top-of-the-rack χρησιμοποιούνται για τη διασύνδεση διακομιστών που συνήθως οργανώνονται σε αρχιτεκτονικές πολλαπλών επιπέδων. Αυτές οι αρχιτεκτονικές αντιμετωπίζουν εγγενή προβλήματα όσον αφορά το εύρος ζώνης, τον χρόνο καθυστέρησης / latency, το κόστος και την κατανάλωση ενέργειας και καθίστανται εξαιρετικά περιοριστικοί παράγοντες στο σχεδιασμό των δικτύων κέντρων δεδομένων του μέλλοντος. Για τη βελτίωση της απόδοσης και τη μείωση του κόστους λειτουργίας έχουν προταθεί τεχνολογίες βασισμένες σε φωτονικές διασυνδέσεις, δεδομένου ότι αυτές έχουν τη δυνατότητα αποτελεσματικής εκμετάλλευσης της χωρικής και χρονικής πολυπλεξίας, καθώς και της πολυπλεξίας μήκους κύματος. Οι φωτονικές διασυνδέσεις μπορούν να καταστίσουν δυνατή τη δημιουργία νέων αρχιτεκτονικών, βασισμένες σε διαφορετικές τοπολογίες δικτύου, που μπορούν να οδηγήσουν σε σημαντικές βελτιώσεις σε σχέση με τις παραδοσιακές ηλεκτρονικές δικτυακές αρχιτεκτονικές στο εσωτερικό των σύγχρονων κέντρων δεδομένων. Σε αυτήν τη μελέτη, αρχικά παρουσιάζουμε την αρχιτεκτονική P-Torus, μια νέα αρχιτεκτονική για δίκτυα κέντρων δεδομένων με χρήση μειωμένου αριθμού επιπέδων (reduced-tier architecture), που βασίζεται σε διασυνδεδεμένα συμπλέγματα δυσδιάστατης ρομβοειδούς τοπολογίας (2D Tori). Η αρχιτεκτονική P-Torus εκμεταλλεύεται την μεταγωγή μήκους κύματος σε επίπεδο πακέτου, ενισχυμένο από γρήγορους συντονίσιμους πομπούς λέιζερ. Η προτεινόμενη αρχιτεκτονική είναι σε θέση να παρέχει διασύνδεση ενός βήματος, χωρίς συμφόρηση, και χαμηλού χρόνου καθυστέρηση μεταξύ όλων των Top-of-Rack μεταγωγέων στο κέντρο δεδομένων. Λεπτομερείς αριθμητικές προσομοιώσεις δείχνουν ότι η αρχιτεκτονική P-Torus παρουσιάζει χαμηλό χρόνο καθυστέρησης από άκρο σε άκρο και υψηλή απόδοση, ακόμη και σε περιπτώσεις αυξημένης κυκλοφορίας δεδομένων και κυκλοφορία θερμού σημείου / hot-spot traffic. Ταυτόχρονα, η αρχιτεκτονική P-Torus έχει σημαντικά οφέλη σε σχέση με άλλες σύγχρονες αρχιτεκτονικές μεταγωγής με βάση το μήκος κύματος από την άποψη του απαιτούμενου αρχικού κόστους επένδυσης (CapEx) αλλά και του κόστους λειτουργίας (OpEx) λόγω των παθητικών στοιχείων μεταγωγής που βασίζονται σε φωτονικές τεχνολογίες. Συγκριτικές προσομοιώσεις και ανάλυση κόστους δείχνουν ότι η αρχιτεκτονική P-Torus παρέχει μια πολύ καλή αντιστάθμιση μεταξύ απόδοσης και κόστους σε σύγκριση με άλλες αρχιτεκτονικές μεταγωγής με βάση το μήκος κύματος που στοχεύουν κέντρα δεδομένων μικρού και μεσαίου μεγέθους. Επιπλέον παρουσιάζουμε μια πιο εξελιγμένη εκδοχή της αρχιτεκτονικής P-Torus, βασισμένη σε διασυνδεδεμένα συμπλέγματα τρισδιάστατης ρομβοειδούς τοπολογίας (3D Tori). Η αρχιτεκτονική 3D P-Torus παρουσιάζει ακόμη καλύτερες επιδόσεις χρόνου καθυστέρησης και μεταγωγής σε σχέση με την δυσδιάστατη εκδοχή και σε σύγκριση με άλλες αρχιτεκτονικές μεταγωγής με βάση το μήκος κύματος. Όλα τα χαρακτηριστικά απόδοσης της αρχιτεκτονικής 3D P-Torus υπολογίζονται μέσω λεπτομερών προσομοιώσεων και διαπιστώνεται πως μπορεί να υποστηρίξει, χωρίς ανάγκη ενίσχυσης, μεσαίου μεγέθους κέντρα δεδομένων με έως και 10k διακομιστές, αποτελώντας για παράδειγμα μια εξαιρετική λύση για τα αναδυόμενα κέντρα δεδομένων στα άκρα του δικτύου (Edge Data Centres). Οι τεχνολογίες φωτονικής διασύνδεσης μπορούν να προσφέρουν βιώσιμες λύσεις και σε άλλα προβλήματα που αντιμετωπίζουν τα τρέχοντα κέντρα δεδομένων, όπως η έλλειψη δυνατότητας αναδιαμόρφωσης του δικτύου και δυναμικής κατανομής εύρους ζώνης, καθώς και η αυξανόμενη εντροπία της καλωδίωσης. Έτσι, εξετάζουμε την περίπτωση χρήσης λύσεων ασύρματης επικοινωνίας για τη δικτύωση εντός κέντρου δεδομένων ως ένας τρόπος για να ξεπεραστούν αυτά τα προβλήματα που είναι διάχυτα σε τυπικές λύσεις με βάση τις οπτικές ίνες, και προσφέραμε μια γρήγορη επισκόπηση των πιο υποσχόμενων υφιστάμενων προσεγγίσεων. Υπό το πρίσμα της προαναφερθείσας μελέτης, παρουσιάζουμε μια νέα λύση με χρήση οπτικής διασύνδεσης ελεύθερου χώρου (free-space optics) για δίκτυα κέντρων δεδομένων. Η προτεινόμενη λύση χρησιμοποιεί δισδιάστατο οπτικό σύστημα διεύθυνσης δέσμης για τον πομπό και συστοιχίες φωτοδιόδων μεγάλου εύρους ζώνης για τον δέκτη και είναι σε θέση να προσφέρει ταχύτητες εναλλαγής σε επίπεδο ns με κατανάλωση στην τάξη μεγέθους των μερικών μW. Επιπλέον, προτείνουμε μια αρχιτεκτονική δικτύωσης κέντρου δεδομένων η οποία χρησιμοποιεί αποτελεσματικά τις προαναφερθείσες συσκευές και θα μπορούσε να πληροί τις απαιτήσεις της απρόσκοπτης λειτουργίας, της υψηλής συνδεσιμότητας και της ευελιξίας των σύγχρονων δικτύων κέντρων δεδομένων.