Post-doctorant f/h preuves de programmes flottants sur gpu

Post-Doctorant F/H - Preuves de programmes flottants sur GPU, Gif-sur-Yvette

Contexte et atouts du poste

Avec l’Intelligence Artificielle, les GPUs deviennent de plus en plus spécialisés pour l’accélération de Réseaux de Neurones Profonds. Une grande partie de la capacité de calcul des GPUs récents est réservée aux calculs de produits de matrices.

L'objectif est de mener une recherche sur les garanties possibles lorsque des programmes flottants sont exécutés sur des GPUs.

Des déplacements en conférence sont prévus, avec prise en charge des frais selon le barème en vigueur.

Mission confiée

Avec l'aide de Sylvie Boldo, le candidat recruté devra essayer de prouver des programmes sur GPU en se basant sur les propriétés inférables du hardware. La principale difficulté réside dans l'absence de standards uniformes. Les formats de calculs (FP8, FP16, BF16) ne sont pas tous couverts par le standard IEEE, ce qui complique leur contrainte. Un nouveau standard pour les très petits flottants est en cours d'élaboration, mais il sera probablement peu strict sur la précision. Par ailleurs, l'industrie évolue rapidement, souvent en dehors des standards, et reste secrète concernant la précision et les algorithmes utilisés.

Références :
[1] IEEE, 754-2019 - IEEE Standard for Binary Floating-Point Arithmetic
[2] N. Wang et al., “Training Deep Neural Networks with 8-Bit Floating Point Numbers,” NIPS 2018.
[3] Intel, BFLOAT16 – Hardware Numerics Definition, 2018.
[4] Intermédiaire, Septembre 2023.
[5] OCP 8-bit Floating Point Specification.
[6] OCP Microscaling Formats Specification.

Principales activités

Le candidat devra étudier les GPU en analysant articles, brevets, et éventuellement en faisant du rétro-engineering pour déduire les précisions et calculs effectués. Cette analyse sera formalisée pour être utilisée dans la vérification de programmes.

Compétences

* Bon niveau d'anglais (écrit et oral)
* Connaissance souhaitée des GPU ou de Rocq
* Restauration subventionnée
* Transports publics partiellement remboursés
* 7 semaines de congés annuels + 10 jours de RTT (temps plein) + permissions exceptionnelles (ex : enfants malades, déménagement)
* Possibilité de télétravail après 6 mois d'ancienneté et d'aménagement du temps de travail
* Équipements professionnels disponibles (visioconférence, matériel informatique)
* Prestations sociales, culturelles et sportives via l'Association de gestion des œuvres sociales d'Inria
#J-18808-Ljbffr