Techniques avancées en apprentissage automatique et optimisation pour les systèmes autonomes // advanced techniques in machine learning and optimisation for autonomous systems

Topic description

Les systèmes autonomes, en particulier les véhicules autonomes, les drones et les robots, s'intègrent rapidement dans notre vie quotidienne. Ce domaine a suscité un vif intérêt de la part de la communauté scientifique comme de l'industrie, en raison de son potentiel à transformer radicalement la mobilité et les transports. Les systèmes autonomes sont conçus pour reconnaître de manière autonome leur environnement et ensuite prendre des décisions intelligentes. Principalement, des tâches telles que la détection et la reconnaissance d'objets sont traitées par des techniques de vision par ordinateur, tandis que la prise de décision provient d'un problème d'optimisation. Les avancées récentes dans la compréhension des environnements se sont de plus en plus concentrées sur l'apprentissage profond (Deep Learning - DL), en raison de ses grandes performances pour la reconnaissance de forme ou la classification d'images.

Cette thèse vise à développer de nouvelles techniques avancées en apprentissage automatique et optimisation pour les systèmes autonomes.

Au cœur de l'ensemble des techniques envisagées se trouve la Programmation DC et DCA, des outils puissants d'optimisation non convexe qui ont été appliqués avec grands succès dans différents domaines des sciences appliquées, en particulier en apprentissage automatique. Ces outils constituent des résultats marquants de notre équipe avec un historique de plus de 40 ans de développement et des évolutions importantes durant ces dernières années.
La première partie serait consacrée à, d'une part, développer les méthodes d'apprentissage profond ainsi que les algorithmes d'optimisation qui en sont issues pour la reconnaissance de forme et la classification d'image. Pour concevoir des méthodes d'apprentissage profond efficaces les deux questions suivantes sont cruciales : (i) quelle architecture du réseau profond construire ? (ii) Quelles méthodes d'optimisation utiliser pour obtenir des paramètres optimaux de ce réseau ? Pour répondre à ces questions, des nouvelles architectures combinant des réseaux existants afin d'exploiter les avantages de chacun seraient proposées, et des schémas DCA avancés (Advanced DCA) appartenant à la nouvelle génération de DCA seraient développés.
La seconde phase de cette thèse sera consacrée à l'extension du cadre décisionnel vers un système multi-agents (MAS), reflétant la complexité des interactions entre plusieurs entités autonomes. Dans ce contexte, chaque agent utilise les architectures de réseaux profonds développées précédemment pour percevoir son environnement, mais doit faire face à des prises de décision individuelles pouvant mener à des objectifs divergents, voire conflictuels. Pour résoudre ces interactions, nous mobiliserons la théorie des jeux coopératifs, et plus particulièrement les modèles de négociation tels que l'approche de Nash et/ou la solution de Kalai-Smorodinsky. Ces concepts permettent de définir un équilibre garantissant une solution à la fois efficace et équitable face aux contraintes de chaque agent. Enfin, la résolution de ce problème de négociation multi-agents sera formulée comme un programme DC et résolue par des schémas DCA avancés, assurant ainsi une convergence robuste et performante vers un équilibre optimal pour l'ensemble du système autonome.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Autonomous Systems, particularly self-driving vehicles, drones, and robots, are rapidly integrating into human lives. This field has attracted significant attention from both the research community and industry, driven by its potential to fundamentally radically change mobility and transport. Autonomous systems are designed to autonomously understand their surrounding environments and then make intelligent decisions. Historically, tasks such as object detection and recognition were primarily addressed by computer vision techniques, with decision-making relegated to control optimization algorithms. Recent advancements in environment understanding have increasingly centered on Deep Learning (DL), driven by its state-of-the-art performance in disciplines like image classification and object recognition.
This thesis aims to develop new advanced techniques in machine learning and optimization for autonomous systems.
At the heart of the proposed techniques lies DC Programming and DCA, powerful non-convex optimization tools that have been successfully applied in various fields of applied sciences, particularly in machine learning. These tools represent hallmark results of our team, with a development history spanning over 40 years and significant evolutions in recent years.
The first part will be dedicated to developing deep learning methods and the resulting optimization algorithms for pattern recognition and image classification. To design effective deep learning methods, two crucial questions arise: (i) what deep network architecture should be built? and (ii) what optimization methods should be used to obtain the optimal parameters for this network?. To address these questions, new architectures combining existing networks will be proposed to exploit their respective advantages, and Advanced DCA schemes belonging to the new generation of DCA will be developed.
The second phase of this thesis will focus on extending the decision-making framework toward a Multi-Agent System (MAS), reflecting the complexity of interactions between multiple autonomous entities. In this context, each agent utilizes the previously developed deep network architectures to perceive its environment but must deal with individual decision-making that can lead to divergent or even conflicting objectives. To resolve these interactions, we will employ cooperative game theory, specifically bargaining models such as the Nash approach and/or the Kalai-Smorodinsky solution. These concepts allow for the definition of an equilibrium that guarantees a solution that is both efficient and equitable regarding the constraints of each agent. Finally, the resolution of this multi-agent bargaining problem will be formulated as a DC program and solved using Advanced DCA schemes, ensuring robust and high-performance convergence toward an optimal equilibrium for the entire autonomous system.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Début de la thèse : 01/10/

Funding category

Public funding alone (i.e. government, region, European, international organization research grant)

Funding further details

Concours pour un contrat doctoral