Compression des modèles de fondation pour les signaux eeg // eeg foundation model compression

Topic description

Les signaux EEG (électroencéphalogrammes) sont utilisés pour l'étude de l'activité cérébrale dans des applications cliniques et de recherche, notamment pour le diagnostic des troubles neurologiques et l'étude des fonctions cognitives. Cependant, les modèles d'IA appliqués à l'analyse des signaux EEG sont souvent complexes, nécessitant des ressources importantes en termes de calcul et de stockage. Cette limitation freine leur utilisation dans des contextes où la puissance de calcul est limitée, comme les dispositifs portables et embarqués. L'objectif de cette thèse est de développer des méthodes de compression efficaces pour les modèles de fondation utilisés dans l'analyse des signaux EEG, afin de les rendre plus accessibles tout en maintenant des performances de haut niveau.

Le projet s'articulera autour de plusieurs axes de recherche. Dans un premier temps, il s'agira d'explorer des techniques de compression classiques des modèles de fondation, telles que le pruning (réduction du nombre de paramètres du modèle), la quantification (réduction de la précision des poids), et la factorisation de matrices. Ces méthodes permettent de diminuer la taille des modèles tout en conservant leurs performances. L'objectif principal est de rendre ces modèles plus légers tout en conservant leur capacité à analyser des signaux EEG complexes.

Ensuite, le projet se concentrera sur le développement de méthodes de compression adaptées aux signaux EEG. En effet, les signaux EEG varient considérablement d'un individu à l'autre et selon les contextes cliniques (état de santé, type de pathologie, etc.). Il sera donc essentiel de concevoir des modèles compressés capables de s'adapter à ces variations tout en maintenant une grande efficacité. L'utilisation de techniques d'apprentissage profond, telles que les réseaux neuronaux convolutifs ou récurrents, permettra de générer des représentations compactes des signaux EEG tout en garantissant des performances élevées pour des tâches spécifiques, telles que la détection de crises, la reconnaissance des états cognitifs ou l'analyse des réseaux neuronaux.

Le projet inclura également une validation expérimentale des modèles compressés sur des jeux de données EEG réels, provenant de différentes études cliniques et expérimentales. Ces jeux de données permettront de tester la capacité des modèles compressés à s'adapter à des contextes divers et à maintenir des performances de classification ou de prédiction élevées. Les résultats seront comparés à ceux des modèles non compressés, en évaluant des critères tels que la précision, la latence de traitement, et l'empreinte mémoire.

L'un des enjeux majeurs de cette thèse est de réduire les besoins en ressources computationnelles tout en maintenant une haute précision dans les résultats d'analyse. Ce projet visera à rendre l'analyse des signaux EEG plus accessible, notamment dans des applications mobiles ou des dispositifs portables, tout en facilitant la mise en œuvre de solutions telles que le neurofeedback ou les interfaces cerveau-machine.

En résumé, cette thèse proposera des solutions innovantes pour la compression des modèles d'intelligence artificielle utilisés dans l'analyse des signaux EEG. Les résultats attendus devraient permettre de développer des technologies plus légères, plus rapides et plus accessibles pour le traitement des signaux EEG, facilitant ainsi leur utilisation dans des applications cliniques et de recherche. Ce projet pourrait avoir un impact important dans le domaine de la santé, en particulier pour le diagnostic précoce des troubles neurologiques et la gestion des pathologies cérébrales.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

EEG (electroencephalogram) signals are used to study brain activity in clinical and research applications, particularly for diagnosing neurological disorders and studying cognitive functions. However, AI models applied to EEG signal analysis are often complex and require significant computational and storage resources. This limitation hinders their use in contexts with limited computational power, such as portable and embedded devices. The aim of this thesis is to develop efficient compression methods for foundation models used in EEG signal analysis to make them more accessible while maintaining high-level performance.

The project will be structured around several research areas. First, it will explore classic compression techniques for foundation models, such as pruning (reducing the number of model parameters), quantization (reducing the precision of weights), and matrix factorization. These methods help reduce model size while retaining performance. The primary objective is to make these models lighter while maintaining their ability to analyze complex EEG signals.

Next, the project will focus on developing compression methods tailored to EEG signals. EEG signals vary significantly from one individual to another and across clinical contexts (health status, type of pathology, etc.). Therefore, it will be essential to design compressed models that can adapt to these variations while maintaining high efficiency. The use of deep learning techniques, such as convolutional or recurrent neural networks, will enable the generation of compact representations of EEG signals while ensuring high performance for specific tasks, such as seizure detection, cognitive state recognition, or brain network analysis.

The project will also include experimental validation of the compressed models on real EEG datasets from various clinical and experimental studies. These datasets will test the ability of the compressed models to adapt to diverse contexts and maintain high classification or prediction performance. Results will be compared with those of uncompressed models, evaluating criteria such as accuracy, processing latency, and memory footprint.

One of the main challenges of this thesis is reducing computational resource requirements while maintaining high precision in analysis results. This project will aim to make EEG signal analysis more accessible, particularly in mobile or portable applications, while facilitating the implementation of solutions such as neurofeedback or brain-machine interfaces.

In summary, this thesis will propose innovative solutions for compressing AI models used in EEG signal analysis. The expected results should enable the development of lighter, faster, and more accessible technologies for EEG signal processing, making them more suitable for clinical and research applications. This project could have a significant impact on the health field, particularly for the early diagnosis of neurological disorders and the management of brain-related pathologies.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Début de la thèse : 01/10/

Funding category

Public funding alone (i.e. government, region, European, international organization research grant)

Funding further details

Concours IPP ou école membre*Concours pour un contrat doctoral*Contrat Doctoral E4H*Contrat doctoral Hi!Paris*