Stage développement d'outillage pour l'audit de modèles d'ia f/h

DEVELOPPEMENT D'OUTILLAGE POUR L'AUDIT DE MODELES D'IA

La R&D d'EDF (1900 chercheurs) a pour missions principales de contribuer à l'amélioration de la performance des unités opérationnelles du groupe EDF, d'identifier et de préparer les relais de croissance à moyens et longs termes. Ces missions s’appuient fortement sur les dernières innovations numériques et s’appliquent à la fois sur les systèmes d’information traditionnels ainsi que sur les systèmes d’information industriels (ICS/SCADA). Or, l’évolution des systèmes d’information impliquent de nouveaux risques et de forts enjeux sur le domaine de la sécurité informatique. L’atteinte de ces enjeux nécessite des travaux de recherches important sur les thématiques de la sécurité informatique.

C’est dans ce contexte que le groupe IRC (Innovation et Recherche en Cybersécurité) de la R&D d’EDF a la charge d’étudier, développer et proposer des solutions de sécurité pour le domaine industriel aux différentes directions métiers d’EDF. Le groupe IRC maintient et développe ses compétences en sécurité des systèmes d’information par les études et expérimentations qu’il réalise ainsi que par une veille technologique constante.

L’intelligence artificielle occupe désormais une place croissante au sein des entreprises, qui l’exploitent à des fins variées : synthèse de documents, détection d’anomalies, aide aux opérateurs… Cependant, l’IA présente également des risques de cybersécurité qui lui sont spécifiques, et soulève des inquiétudes quand à la confiance que l’on peut lui accorder.

On trouve dans la littérature scientifique de nombreuses vulnérabilités liées à toutes les phases du cycle de vie des modèles d’IA, allant de l’entraînement du modèle à son utilisation en production.

Dans le cadre des analyses de sécurité réalisées par la R&D d’EDF sur différents modèles d’IA (notamment génératives), l’objectif du stage est de d’aider à l’outillage et à l’automatisation de ces tests et à la construction de benchmarks de test.

Le/La stagiaire sera amené.e à mettre en place une infrastructure d’audit de modèles d’IA, partiellement ou totalement automatisée, au sein du moyen d’essais en cybersécurité de la R&D.

Le stage pourra s’organiser de la façon suivante :

- Faire un état de l’art sur les risques cyber auxquels sont exposés les modèles d’IA (par exemple : jailbreaks, extraction d’informations sensibles, biais, toxicité, empoisonnement, …), ainsi que les mécanismes de protection associés,

- Développer une infrastructure de test des modèles d’IA et en évaluer la robustesse,

- Documenter pour faciliter la continuité des travaux sur ce sujet.



Formation : Bac +5 uniquement : école ingénieur ou de Master en informatique, avec une spécialisation en intelligence artificielle ou en cybersécurité et une appétence pour le second domaine.

Compétences requises :

* Connaissances des systèmes GNU/Linux ;
* Programmation ;
* Connaissances en Intelligence Artificielle ;
* Connaissances en sécurité informatique ;



Qualités recherchées :

* Grande autonomie et force de proposition ;
* Capacité d’adaptation ;
* Esprit critique et de synthèse ;
* Esprit d’équipe et communication ;
* Pédagogie
* Ouverture sur de nouvelles problématiques.