On Friday February 16th, at 14:00 Louis Farcis (SPINTEC) will defend in English his PhD thesis entitled :
MRAM based neuromorphic cell for Artificial Intelligence
Place : IRIG/SPINTEC, CEA Building 10.05, auditorium 445 (access needs authorization request it before February 5th to admin.spintec@cea.fr)
video conference : https://grenoble-inp.zoom.us/j/94805219154
Passcode: 980674
Abstract : The rapid evolution of the society in terms of computational needs tends to target applications that were once human exclusive. Development of deep learning algorithms made possible overpassing some capabilities in the task the human brain was performing the best as for instance image and speech recognition, decision making and optimization problems. However, the Artificial Neural Networks (ANNs) capable of solving these tasks use intensively massive amount of data and require multiple operations at the same time. When running ANN algorithms in a classical Von Neumann architecture where the computing unit is separated by the memory, latency and high energy consumption start to rise exponentially with the size of the emulated neural network. From this observation, the scientific community starts looking at brain-inspired computing schemes to overcome the current limitation. In particular, spiking neural networks (SNNs) were early predicted by W. Maass in 1997 to be a suitable candidate to leverage the sparsity of the network while showing egal if not better results than the first generations of ANN. Up until now, some Application Specific Integrated Circuits (ASICs) were proposed by companies such as Intel and IBM to emulate SNN with CMOS-based technology. The number of transistors needed to accomplish some critical functionality like spiking neurons in these solutions is still very large and not suitable for downscaling strategies. In this context, new hardware solutions were proposed to emulate the synaptic and neuronal features while reducing the footprint and the energy consumption. In particular, various types of nano-synapses based on emerging non-volatile memory (NVM) explored multi-level synaptic weights and short-term/long-term memory. Among them, the spintronic solutions are the most advanced in maturity compared to the other technology because magnetic-random-access-memory technology, which represents a binary synapse, has already reached the market for ten years. However, a spiking neuron compatible with spintronic-based synapse is still missing in the literature.
The thesis takes place in this context of developing new solutions with spintronics in order to emulate spiking neurons. Magnetic tunnel Junctions (MTJs) have been widely used in spintronics as memory unit because of their high endurance while demonstrating relatively small energy for writing and reading operation and are BEOL CMOS compatible. The solution elaborate along the manuscript takes all the benefits of the MTJs to design a spiking neuron based on the windmill dynamics.
The dual-free layer MTJ concept is modelled, designed, nano-patterned and electrically characterized to give a constructive outlook on how viable this structure is for emulating spiking neurons.
titre : Cellule MRAM neuromorphique pour l’Intelligence Artificielle
Résumé : La constante évolution de la société en termes de besoin computationnel tend vers les applications d’intelligence artificielle qui étaient autrefois réservées exclusivement à l’Homme. Le développement d’algorithmes reposant sur l’apprentissage profond a rendu possible le dépassement des capacités du cerveau humain dans ces domaines de prédilections comme la reconnaissance d’images et de paroles, la prise de décision et les problèmes d’optimisation. Pourtant, les réseaux de neurones artificiels capables de résoudre ces problèmes repose de manière intensive sur d’énorme quantité de données et requiert de nombreuses opérations en parallèle. Quand ces algorithmes tournent sur des architectures classiques de type Von Neumann où l’unité de calcul est séparée de l’unité mémoire, la latence du réseau et son énergie consommée augmente exponentiellement avec sa taille. De ce constat, la communauté scientifique commença à développer des schémas informatiques inspirés du cerveau afin de surpasser les limitations observées. En particulier, les réseaux de neurones impulsionnels ont été prédit par W. Maass en 1997 comme étant un candidat adapté à la maximisation du dispersement des opérations dans le réseau tout en démontrant des performances égales, sinon meilleures, aux premières générations de réseaux de neurones. Jusqu’à maintenant, des circuits intégrés orientés vers une application donnée (ASICs) ont été développés par des industriels tels que Intel ou IBM pour émuler des réseaux de neurones impulsionnels, se basant sur des technologies courantes CMOS. Le nombre de transistors nécessaire pour accomplir certaines fonctionnalités critique propre aux réseaux de neurones, comme les neurones impulsionnels, est toujours très important, ce qui n’est pas souhaitable dans une stratégie de réduction de miniaturisation poussées.
Dans ce contexte, de nouvelles solutions ont été proposées pour reproduire les caractéristiques synaptiques et neuronales tout en essayant de réduire un maximum l’empreinte physique et la consommation énergétique. En outre, différents types de nano-synapses reposant sur des mémoires émergentes non-volatiles ont exploré des poids synaptiques multi-niveaux ainsi que la reproduction des fonctions mémoires court-terme et long-terme. Parmi elles, les solutions basées sur une technologie spintronique sont les plus matures d’un point de vue industriel puisque les mémoires à accès direct magnétique (MRAM), pouvant servir de synapses binaires, ont déjà atteint le marché international depuis une dizaine d’années. Pourtant, l’existence d’un neurone impulsionnel compatible avec une synapses spintronique est toujours manquant dans la littérature actuelle.
Cette thèse prend donc sa place dans ce contexte de développement de nouvelles solutions spintroniques afin d’émuler un neurone impulsionnel. Les jonctions tunnels magnétiques (JTMs) largement utilisées en spintronique pour leur endurance en tant que mémoire tout en démontrant des énergies d’écriture et de lecture très faible ainsi qu’une compatibilité “back-end of line” et CMOS. La solution élaborée dans ce présent manuscrit prend l’avantage des JTMs pour concevoir un neurone impulsionnel basé sur la dynamique “windmill”. Le concept de JTM à double couche libre est modélisé, nano fabriqué et caractérisé électriquement pour donner une perspective constructive sur son potentiel utilisation en tant que neurone impulsionnel.
Jury :
- Michel Hehn, Professeur des universités, Université de Lorraine, Rapporteur
- Damien Querlioz, Directeur de recherche, CNRS, C2N, Rapporteur
- Alina Deac, Directrice de recherche, Helmholtz-Zentrum DresdenRossendorf, Examinatrice
- Lorena Anghel, Professeur des universités, Université Grenoble Alpes, Examinatrice
- Julie Grollier, Directrice de recherche, CNRS, Examinatrice
Thesis supervisors :
- Ricardo SOUSA, Directeur de recherche, Spintec, CEA Grenoble, Directeur de thèse
- Liliana Buda-Prejbeanu, Professeure des universités, Université Grenoble Alpes, Co-directrice de thèse
