Réseaux de neurones associatifs à minimisation d’énergie utilisant des mémoires résistives // energy-minimizing associative neural networks using resistive memories

Topic description

Ce projet de thèse vise à développer des réseaux neuronaux associatifs de type Hopfield, capables d’effectuer l’inférence par minimisation d’énergie.
L’objectif est d’exploiter ces dynamiques pour le débruitage et la reconstruction d’images à proximité des capteurs, dans des systèmes fortement contraints en énergie et en latence.
Les synapses du réseau seront implémentées dans des matrices de mémoires résistives ReRAM, permettant des opérations analogiques directement en mémoire.
Le travail portera sur le dimensionnement de ces architectures, en tenant compte de la taille des matrices, de la quantification des poids, de la variabilité des dispositifs et de leur endurance.
Des modèles de référence seront développés sous PyTorch afin d’évaluer différentes dynamiques neuronales et stratégies d’implémentation.
Le débruitage d’images par blocs servira de cas d’usage principal pour mesurer les compromis entre qualité de reconstruction, rapidité et consommation énergétique.
Une attention particulière sera portée à la robustesse des réseaux face aux non-idéalités matérielles, notamment le bruit, la variabilité et la dérive des mémoires.
Le projet explorera également des mécanismes d’apprentissage local sur puce, permettant une adaptation progressive aux changements du capteur, de la scène ou du matériel.
Ces règles devront rester compatibles avec les contraintes d’endurance des mémoires résistives.
À terme, la thèse devra fournir des recommandations de dimensionnement matériel et préparer la conception d’un démonstrateur expérimental.
L’enjeu scientifique est de montrer qu’une inférence associative dynamique peut constituer une brique efficace, robuste et basse consommation pour l’IA embarquée.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

This PhD project aims to develop Hopfield-type associative neural networks that perform inference through energy-minimizing dynamics.
The goal is to exploit these dynamics for image denoising and reconstruction close to the sensor, under strict energy and latency constraints.
The network synapses will be implemented in ReRAM crossbar arrays, enabling analog in-memory matrix-vector operations.
The work will focus on architecture dimensioning while accounting for array size, weight quantization, device variability and endurance limits.
Reference models will be developed in PyTorch to evaluate alternative neural dynamics and hardware mapping strategies.
Patch-wise image denoising will serve as the main use case to quantify trade-offs between reconstruction quality, latency and energy consumption.
Particular attention will be paid to the robustness of the networks against hardware non-idealities such as noise, variability and memory drift.
The project will also investigate local on-chip learning mechanisms, allowing slow adaptation to changes in the sensor, scene or memory devices.
These learning rules must remain compatible with the endurance constraints of resistive memories.
Ultimately, the PhD should provide hardware-sizing guidelines and support the design of an experimental test vehicle.
The broader scientific objective is to demonstrate that dynamic associative inference can become an efficient, robust and low-power building block for edge AI.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Pôle fr : Direction de la Recherche Technologique
Pôle en : Technological Research
Département : Département Composants Silicium (LETI)
Service : Service des Composants pour le Calcul et la Connectivité
Laboratoire : Laboratoire de Composants Mémoires
Date de début souhaitée : 01-06-
Ecole doctorale : Electronique, Electrotechnique, Automatique, Traitement du Signal (EEATS)
Directeur de thèse : VIANELLO Elisa
Organisme : CEA
Laboratoire : DRT/DCOS//LDMC

Funding category

Public/private mixed funding

Funding further details