Place : Salle des Conseils (7ème étage) – Grenoble INP – Phelma, 3 Parv. Louis Néel, 38000 Grenoble
visio conference : https://teams.microsoft.com/l/meetup-join/19%3ameeting_ODljNDJkNTMtZDJkMi00YTY2LWE1ZTEtYzk5NjNkNTZlOWY4%40thread.v2/0?context=%7b%22Tid%22%3a%223a5a8744-5935-45f9-9423-b32c3a5de082%22%2c%22Oid%22%3a%220b5a9fb3-7818-4359-95d4-ceef3db1fd7a%22%7d
ID de réunion : 234 456 219 332
Code secret : 8x7TFc
Pour les appareils en visioconférence, voici les informations nécessaires :
Clé du locataire : usherbrooke@m.webex.com
ID de la vidéo : 112 751 342 2
Abstract : The ever-increasing computational demand, the advent of artificial intelligence (AI), and the bottleneck of the traditional CMOS-based Von Neumann architecture has raised a debate concerning energy sustainability. To circumvent these challenges, it is paramount to seek for alternative hardware implementations. Examples of energy efficient unconventional computing solutions are brain-inspired systems including 3rd generation spiking neural networks (SNNs). Traditionally, the prevailing computing paradigm has involved the transmission of continuous floating variables from one processing unit to another. However, insights from neurobiology and brain-inspired computing underscore that SNN communicate through discrete pulses. As a fundamental building block component for such hardware implementations, emerging non-volatile memories (eNVMs) stand out as promising memory component, which outperform and exceeds complementary metal-oxide-semiconductor (CMOS) based technologies in processing and non-volatile storage capabilities. Yet, it inherently suggests the colocation of memory and processing units in in-memory computing hardware solutions. To implement it in hardware, different solutions of eNVMs are investigated and benchmarked throughout the thesis. In chapter 3, As a case study, we analyze the memory solutions fabricated in the laboratories associated with this project. These solutions serve as a practical example to assess the efficacy and performance of different analog eNVM technologies. The solutions are Phase change memories provided by STMicroelectronics, TiO2 oxide based resistive memories from 3it and spin transfer torque magnetic memories from SPINTEC. Experimental characterization is conducted on PCM and TiO2 OxRAM, while data regarding SOT-MRAM is sourced from simulations or provided by the SPINTEC IC design team. The methodology employed to perform the electrical characterization and analog programming are depicted. The PCM, OxRAM and SOT-MRAM give rises to 44, 10, and 5 multilevel states respectively. Non-idealities aspects such as variability are also included in the analysis. The operation requirements are considered to further co-integrate these eNVMs into a 28 nm FD-SOI based neuron solution designed, tested, and depicted in chapter 4. A co-design methodology to co-integrate and implement in hardware eNVMs with FD-SOI based fully analog neurons is provided and a multi-project work (MPW) comprising an analog neuron, a current attenuator, and selectors for memory integration is deployed. According to test the analog neuron consumed 3.86 pJ/spike. Finally, the multilevel and drift behaviour of 1T1R PCM are exhaustively explored at cryogenic environments in chapter 5. The 1T1R PCMs are fully characterized at 300 K, 77 K and 12 K. The ePCM multilevel capabilities give rise to 10 multilevel states at 77 K, 12 K and 300 K. The performance and effect of non-idealities at different temperatures are modelled and evaluated in SNN MNIST classification task. The SNN classification accuracy is sustained up to 2 years at 77 K and 12 K while a 12% drop in accuracy is observed at 300 K. More importantly, without requiring any additional hardware or software solution for drift mitigation. In addition, a hardware and operation solution based on non-linear current scaling are proposed to mitigate the non-ideality aspects of 1T1R PCMs at room temperature, the coefficient of variability and the drift is reduced leading to a sustain and improvement of accuracy in a SNN MNIST classification task. The variability is reduced by up to 5% and the drift is compensated for years.
titre : Étude des mémoires non volatiles émergentes multilevel pour le calcul en mémoire et les SNN analogiques basés sur FD-SOI
Résumé : La demande croissante de puissance de calcul, l’avènement de l’intelligence artificielle (IA) et les limites de l’architecture traditionnelle de Von Neumann à base de CMOS ont suscité un débat sur la durabilité énergétique. Pour contourner ces défis, il est essentiel d’explorer des implémentations matérielles alternatives. Parmi les solutions de calcul non conventionnelles écoénergétiques, on trouve les systèmes inspirés du cerveau, tels que les réseaux neuronaux impulsionnels de troisième génération (SNN). Traditionnellement, le paradigme de calcul prédominant a impliqué la transmission de variables flottantes continues d’une unité de traitement à une autre. Cependant, des recherches en neurobiologie et en calcul inspiré du cerveau montrent que les SNN communiquent par des impulsions discrètes. Les mémoires non volatiles émergentes (eNVM) se distinguent comme des composants mémoires prometteurs pour ces implémentations matérielles, surpassant les technologies basées sur les semi-conducteurs complémentaires à oxyde métallique (CMOS) en termes de traitement et de stockage non volatile. Cette approche suggère intrinsèquement la colocalisation des unités de mémoire et de traitement dans des solutions matérielles de calcul en mémoire. Pour mettre cela en œuvre en matériel, différentes solutions d’eNVM sont étudiées et comparées tout au long de la thèse. Dans le chapitre 3, en tant qu’étude de cas, nous analysons les solutions mémoires fabriquées dans les laboratoires associés à ce projet. Ces solutions servent d’exemple pratique pour évaluer l’efficacité et la performance des différentes technologies analogiques eNVM. Les solutions comprennent les mémoires à changement de phase fournies par STMicroelectronics, les mémoires résistives à base d’oxyde de TiO2 du 3IT et les mémoires magnétiques à transfert de spin (SOT-MRAM) de SPINTEC. Une caractérisation expérimentale est réalisée sur les PCM et OxRAM TiO2, tandis que les données concernant les SOT-MRAM proviennent de simulations ou sont fournies par l’équipe de conception de circuits intégrés de SPINTEC. La méthodologie utilisée pour effectuer la caractérisation électrique et la programmation analogique est décrite. Les PCM, OxRAM et SOT-MRAM donnent respectivement lieu à 44, 10 et 5 états multi-niveaux. Les aspects non idéaux, tels que la variabilité, sont également inclus dans l’analyse. Les exigences opérationnelles sont prises en compte pour intégrer ces eNVM dans une solution neuronale basée sur du FD-SOI 28 nm, conçue, testée et décrite dans le chapitre 4. Une méthodologie de co-conception pour intégrer et implémenter des eNVM avec des neurones entièrement analogiques basés sur du FD-SOI est proposée, et un projet multi-puce (MPW) comprenant un neurone analogique, un atténuateur de courant et des sélecteurs pour l’intégration mémoire est déployé. Selon les tests, le neurone analogique a consommé 3,86 pJ/impulsion. Enfin, le comportement multi-niveaux et de dérive des mémoires PCM 1T1R est exploré de manière exhaustive dans des environnements cryogéniques au chapitre 5. Les PCMs 1T1R sont entièrement caractérisées à 300 K, 77 K et 12 K. Les capacités multi-niveaux des ePCM génèrent 10 états multi-niveaux à 77 K, 12 K et 300 K. Les performances et les effets des aspects non idéaux à différentes températures sont modélisés et évalués dans une tâche de classification MNIST par SNN. La précision de classification SNN est maintenue pendant deux ans à 77 K et 12 K, tandis qu’une baisse de 12 % de précision est observée à 300 K, sans nécessiter de solution matérielle ou logicielle supplémentaire pour atténuer la dérive. De plus, une solution matérielle et opérationnelle basée sur un escalage non linéaire du courant est proposée pour atténuer les aspects non idéaux des PCMs 1T1R à température ambiante; le coefficient de variabilité et la dérive sont réduits, ce qui permet de maintenir et d’améliorer la précision dans une tâche de classification MNIST par SNN. La variabilité est réduite de jusqu’à 5 %, et la dérive est compensée sur plusieurs années.
Jury :
- M. François DANNEVILLE – Examinateur (Université de Lille)
- M. Sylvain SAIGHI – Rapporteur (Université de Bordeaux)
- M. Rejean FONTAINE – Examinateur (Université de Sherbrooke)
- Mme Liliana-Buda PREJBEANU – Examinateur (Université Grenoble Alpes)
- M. Jean-Michel PORTAL – Rapporteur (Université d’Aix-Marseille)
Thesis supervisors :
- M. Philippe GALY – Directeur de thèse (STMicroelectronics)
- M. Dominique DROUIN – Co-directeur de thèse (Université de Sherbrooke)
- Mme Lorena ANGHEL – Co-directeur de thèse (Université Grenoble Alpes)
- M. Fabien ALIBART – Co-directeur de thèse (Université de Sherbrooke)