Stage - profilage de réseau de neurones sur cible embarquée h/f

Rejoignez-nous enStage !

En tant que stagiaire au CEA, vous aurez l'opportunité de travailler au sein d'un environnementde recherche de renommée mondiale. Nos équipes sont composées d'experts passionnés et dédiés, offrant un cadre propice à l'apprentissage et à la collaboration. Vous aurez accès à des équipements de pointe et à des ressources de recherche de premier ordre pour mener à bien vos missions.

Description du poste :

Les équipes du LIAE sont à la tête du développement du framework Aidge [1]. Aidge est une plateforme open source et complète qui prend en charge l'ensemble du cycle de vie de l'IA, de la conception du modèle à son déploiement optimisé. De plus, elle offre un ensemble complet d'outils et de méthodologies, spécifiquement conçus pour les systèmes embarqués et les dispositifs edge, afin d'analyser, d'optimiser, de valider et de déployer efficacement les modèles d'IA. Le développement de l’outil est soutenu par les projets DeepGreen [2] et NEUROKIT2E [3], étant ainsi enrichi et utilisé par plusieurs partenaires industriels et académiques.

Dans ce contexte, l'objectif de ce stage est d'étendre les outils de benchmarking. Un aspect clé de ce travail est le hardware-in-the-loop benchmarking (ou validation matériel-dans-la-boucle), qui permet de tester les modèles d'IA directement sur les dispositifs cibles. Contrairement à l'exécution d'inférence uniquement sur le dispositif hôte, cette approche capture les contraintes réelles telles que la mémoire, la latence et la consommation d'énergie. Elle permet non seulement des comparaisons plus fiables entre différentes architectures et optimisations, mais aide également à identifier les goulots d'étranglement potentiels qui pourraient ne pas apparaître lors de l'exécution sur le dispositif hôte. De plus, ces travaux contribueront à l’innovation et au partage des connaissances au sein de la communauté open source.

Ainsi, les principales missions du candidat seront les suivantes :
• Récupérer les métriques par couche pour un modèle de réseau de neurones exporté avec Aidge après exécution à distance sur une cible ;
• Etudier des métriques telles que le temps d'exécution moyen, l'utilisation de la mémoire, la consommation d'énergie, et la qualité du modèle (spécifique à la tâche : précision, mAP, IoU …)
• Créer des outils de visualisation pour comparer les performances d'un modèle sur différentes cibles ainsi que les performances de différents modèles sur la même cible.

[1] Maxence N. Olivier B., Cyril M. Eclipse Aidge. https://gitlab.eclipse.org/eclipse/aidge, 2023.

[2] Projet DeepGreen - https://deepgreen.ai/
[3] Projet NEUROKIT2E - https://www.neurokit2e.eu/