Contexte et atouts du poste
Contexte: Le transport optimal (TO) est un outil qui joue un rôle central dans de nombreuses applications actuelles de l’apprentissage automatique, que ce soit pour les modèles génératifs, l’adaptation de domaine, l’analyse des dynamiques cellulaires, les réseaux de neurones ou les modèles de graphes (pour plus de détails, voir [PC]). L’essence du TO peut se résumer à la question suivante : « comment déplacer des masses d’un endroit à un autre de manière à minimiser l’effort global de transport ? » Cette idée simple a évolué au fil des années pour devenir une théorie élégante à l’intersection des mathématiques, de l’optimisation et de l’informatique.
Dans sa formulation originale, le TO présente un problème de scalabilité : résoudre le problème d’optimisation sous-jacent a une complexité cubique par rapport au nombre de points. L’introduction du transport régularisé [Cut13] a marqué une avancée majeure dans le domaine en atteignant une complexité simplement quadratique. Au-delà de cela, plusieurs stratégies ont été proposées pour accélérer davantage le calcul du TO : les approches dites "sliced" [Nad21], qui tirent parti de la solution analytique du TO unidimensionnel via des projections aléatoires, les méthodes de mini-batch [Fat],, qui échantillonnent des sous-ensembles de points à partir des distributions, ou encore les techniques de quantification de mesures, qui compressent les mesures via le clustering [Beu].
L’ objectif de ce poste est d 'étudier les approches compressives pour le transport optimal, et de formaliser un cadre théorique commun, basé sur la théorie des projections aléatoires.
La recherche comprendra à la fois un volet théorique, centré sur le contrôle de l’erreur d’approximation introduite par la compression, et un volet computationnel, montrant comment ces méthodes permettent d’obtenir des algorithmes scalables pour des applications clés de l’apprentissage automatique (par exemple, l’analyse d’images, la modélisation générative, etc.). Le ou la candidate retenu·e aura également l’opportunité de contribuer à la bibliothèque open source Python Optimal Transport (POT).
Mission confiée
Missions : Avec l'aide de Titouan Vayer (CR Inria), la personne recrutée sera amenée à développer une nouvelle théorie autour de l'estimation compressive des distances de Wasserstein. Un volet implémentation sera aussi demandé afin de valider les résultats théoriques.
Pour une meilleure connaissance du sujet de recherche proposé :
[PC] Gabriel Peyré, Marco Cuturi, et al. “Computational optimal transport: With applications to data science”. In: Foundations and Trends® in Machine Learning 11.5-6, pp. 355–607.
[Cut13] Marco Cuturi. “Sinkhorn distances: Lightspeed computation of optimal transport”. In: Advances in neural information processing systems 26 .
[Nad21] Kimia Nadjahi. “Sliced-Wasserstein distance for large-scale machine learning : theory, methodology and extensions”. Theses. Institut Polytechnique de Paris, Nov. 2021.
[Fat] Kilian Fatras et al. “Learning with minibatch wasserstein: asymptotic and gradient properties”. In: arXiv preprint arXiv:1910.04091 .
[Beu] Gaspard Beugnot et al. Improving Approximate Optimal Transport Distances using Quantization. 2022.
Collaboration :
Le projet sera accompagné par Titouan Vayer (Inria) ainsi que Kimia Nadjahi (CNRS) et Elsa Cazelles (CNRS). Des visites collaboratives au sein des équipes partenaires à Paris, Toulouse et Bordeaux sont également possibles. Les frais de déplacements seront pris en charge.
Principales activités
Principales activés (5 maximum) : étude bibliographique, développement théorique/mathématique, implémentation logiciel, écriture d'article scientifique, diffusion des connaissances.
Compétences
Compétences techniques et niveau requis : programmation (Python/Pytorch), connaissances en machine learning, des connaissances sur la théorie des problèmes inverse et du transport optimal sont un plus.
Langues : Anglais (rédaction d'article)
Avantages
1. Restauration subventionnée
2. Transports publics remboursés partiellement
3. Congés: 7 semaines de congés annuels + 10 jours de RTT (base temps plein) + possibilité d'autorisations d'absence exceptionnelle (ex : enfants malades, déménagement)
4. Possibilité de télétravail (après 6 mois d'ancienneté) et aménagement du temps de travail
5. Équipements professionnels à disposition (visioconférence, prêts de matériels informatiques, etc.)
6. Prestations sociales, culturelles et sportives (Association de gestion des œuvres sociales d'Inria)
7. Accès à la formation professionnelle
8. Sécurité sociale
Rémunération
Rémunération mensuelle brute de 2788€
En cliquant sur "JE DÉPOSE MON CV", vous acceptez nos CGU et déclarez avoir pris connaissance de la politique de protection des données du site jobijoba.com.