About the role
"Vous voulez tester les limites de l'IA, rejoignez nous !" Adam, tuteur
#IA#Recherche opérationnelle
Pour les systèmes d’Intelligence Artificielle (IA) doté d’un haut niveau d’autonomie utilisés pour des applications critiques, il est primordial de s’assurer qu’ils sont fiables et robustes afin d’éviter des comportements non désirés ou non souhaitables. Dans ce stage, nous considérons un système d’IA réduit à un réseau de neurones profond, connu pour être fragile aux attaques adverses, d’empoisonnement de données, de portes dérobées, vols de modèles et de données. Nous proposons de sélectionner et d’évaluer un module de vérification formelle de systèmes d’IA à base de réseaux de neurones à l’aide de techniques de Recherche Opérationnelle.
L’objectif du stage est de trouver des méthodes permettant de tirer des conclusions sur le comportement de tels réseaux grâce aux techniques mathématiques et de participer aux tests d’un prototype logiciel à concevoir sur des cas réels. Le stage comporte les étapes suivantes :
- Synthétiser l’état de l’art sur les techniques et algorithmes de vérification formelle des systèmes d’IA, avec une attention particulière à des domaines peu couverts par les articles de synthèse déjà publiés (Référence [1], par exemple)
o Vérification au-delà du problème de la robustesse locale
o Vérification « frugale » (en temps et/ou ressources de calcul)
o Vérification de réseaux non reLU (rectified linear unit)
- Analyse des résultats des challenges de la manifestation Verification of Neural Networks Competition (VNN-COMP) Référence [2]
- Sélectionner et mettre en œuvre les approches les plus prometteuses à partir de cette approche bibliographique
- Elargir la gamme des données utilisées dans les challenges aux données tabulaires / séries temporelles et mener les expériences sur cette base élargie, en veillant à mettre en lumière les (éventuelles) complémentarités entre les approches, dans l’esprit de [3]
[1] Changliu Liu, Tomer Arnon, Christopher Lazarus, Christopher Strong, Clark Barrett and Mykel J. Kochenderfer, "Algorithms for Verifying Deep Neural Networks", Foundations and Trends in Optimization (2021) Vol. 4: No. 3-4, pp 244-404. ([1903.06758] Algorithms for Verifying Deep Neural Networks ())
[2] Christopher Brix, Stanley Bak, Changliu Liu, Taylor T. Johnson, “The Fourth International Verification of Neural Networks Competition (VNN-COMP 2023): Summary and Results” (
[3] Matthias König and Annelot W. Bosman and Holger H. Hoos and Jan N. van Rijn, ”Critically Assessing the State of the Art in Neural Network Verification”, Journal of Machine Learning Research (2024) Vol 25, No 12, pp 1-53 (
about you
Ecoles d’ingénieurs ou Master BAC+5 en Recherche Opérationnelle/Intelligence Artificielle
additional information
Acquérir une triple compétence en cybersécurité, intelligence artificielle (IA) et Recherche Opérationnelle (RO). Applications concrètes des compétences acquises en IA et RO sur un cas d’usage réel en sécurité
department
Orange Innovation Recherche assure le pilotage des travaux de Recherche, en s’appuyant sur les équipes Orange Innovation Data-IA, d’Orange Innovation Networks, Orange Innovation IT et Services et Marketing & Design.
"L'environnement de travail est très agréable, un campus à l'américaine de haute qualité environnementale, des installations derniers cris, accessible en mobile douce (à coté de la coulée verte) ou en métro, en tram ou voiture " Adam
contract
Internship
Start date : 01 Jan 2025
Niveau d’études préparé pendant le stage Indemnité brute selon école Bac+5 de 1572 € à 2096 € / mois
En cliquant sur "JE DÉPOSE MON CV", vous acceptez nos CGU et déclarez avoir pris connaissance de la politique de protection des données du site jobijoba.com.