Contexte et atouts du poste
Avec l’Intelligence Artificielle, les GPUs deviennent de plus en plus spécialisés pour l’accélération de Réseaux de Neurones Profonds. De ce fait, une grande partie de la capacité de calcul de GPUs récents est basée est réservée aux calculs de produits de matrices.
L'objectif est de mener une recherche sur les garanties que l'on peut obtenir lorsque des programmes flottants sont exécutés sur des GPUs.
Des déplacements en conférence sont prévus, les frais de déplacements seront pris en charge dans la limite du barème en vigueur.
Mission confiée
Avec l'aide de Sylvie Boldo, la personne recrutée sera amenée à essayer de prouver des programmes sur GPU en partant des propriétés qu’on peut inférer du hardware. La principale difficulté est le manque de standards. Les formats de calculs utilisés par ces applications (FP8, FP16, BF16) ne sont pas tous décrit par le standard IEEE et donc ne sont pas contraints. Un nouveau standard pour les tout petits flottants est en cours d’être rédigé, mais sera probablement assez laxe sur les questions de précision. Et de toute façon, l’industrie avance plus vite que IEEE, avec de nombreuses modifications en parallèle et est souvent secrète sur la précision et les algorithmes utilisés.
[1] IEEE, 754-2019 - IEEE Standard for Binary Floating-Point Arithmetic, juin 2019.
[2]N. Wang, J. Choi, D. Brand, C.-Y. Chen et K. Gopalakrishnan, “Training Deep Neural Networks with 8-Bit Floating Point Numbers,” in 32nd International Conference on Neural Information Processing Systems (NIPS), 2018.
[3]Intel, BFLOAT16 – Hardware Numerics Definition Revision 1.0, nov. 2018.
[4]I. S. P. W. Group, Interim Report on Binary Floating-point Formats for Machine Learning,
, sept. 2023.
[5]O.-C. Project, OCP 8-bit Floating Point Specification (OFP8), [6]O.-C. Project, OCP Microscaling Formats (MX) Specification,
Principales activités
Le candidat devra étudier les GPU, à la fois en lisant les articles et brevets, mais aussi possiblement en faisant du rétro-engineering pour deviner les précisions et calculs effectués.
Cette analyse fera ensuite l'objet d'une formalisation, permettant son usage dans la vérification de programmes.
Compétences
1. bon niveau d'anglais (écrit, oral)
2. une connaissance des GPU ou de Rocq est souhaitée
Avantages
3. Restauration subventionnée
4. Transports publics remboursés partiellement
5. Congés: 7 semaines de congés annuels + 10 jours de RTT (base temps plein) + possibilité d'autorisations d'absence exceptionnelle (ex : enfants malades, déménagement)
6. Possibilité de télétravail (après 6 mois d'ancienneté) et aménagement du temps de travail
7. Équipements professionnels à disposition (visioconférence, prêts de matériels informatiques, etc.)
8. Prestations sociales, culturelles et sportives (Association de gestion des œuvres sociales d'Inria)
9. Accès à la formation professionnelle
10. Sécurité sociale
Rémunération
Salaire : 2.788 euros brut/mois
En cliquant sur "JE DÉPOSE MON CV", vous acceptez nos CGU et déclarez avoir pris connaissance de la politique de protection des données du site jobijoba.com.