Enjeux sociaux et organisationnels de l'appropriation de l'intelligence artificielle dans des systèmes sociotechniques complexes // social and organizational issues of adopting artificial intelligence in complex socio-technical systems

Topic description

Cette thèse s'inscrit dans le contexte du développement de systèmes d'intelligence artificielle dans le secteur industriel. Les effets de ces technologies sont rarement prévus à l'avance, car ils sont le résultat de l'interaction entre des systèmes techniques, des systèmes sociaux et l'environnement dans lequel elles sont mises en place. Les effets des déploiements dépendent autant des motivations que des dynamiques d'appropriation, en particulier en ce qui concerne les transformations du travail et des organisations. Ces constats appellent à étudier les effets du développement et du déploiement de systèmes d'IA dans le milieu industriel en prenant en considération les dynamiques sociales d'appropriation de ces technologies.
Cette thèse a pour ambition de prolonger ce questionnement sur l'appropriation des systèmes d'IA dans des environnements industriels en approfondissant l'enjeu de la fiabilité, un aspect crucial de ces systèmes, et qui repose largement sur des compétences humaines de conception et de pilotage. Notre projet de thèse se propose d'évaluer la pertinence de la théorie du Normal Accident de Charles Perrow dans des situations où les systèmes socio-techniques intègrent de plus en plus de composants fondés sur l'IA. Cette théorie affirme qu'un système socio-technique est d'autant plus vulnérable qu'il est complexe et que ses composants sont fortement couplés. Dans un tel système, les scénarios de défaillance sont imprévisibles et les capacités d'intervention humaine sont limitées. La question se pose alors de la spécificité des systèmes comprenant une ou des IA au regard des questions de défaillance, de prévisibilité, de capacité d'intervention humaine.
Devant ces questionnements, nous nous intéressons à la manière dont les enjeux de fiabilité des systèmes socio-techniques sont construits et pris en charge lors de la conception et le déploiement de systèmes autonomes fondés sur des IA. Pour ce faire, la thèse étudiera le processus d'incorporation et d'appropriation de l'IA dans des systèmes socio-techniques complexes, à travers le travail de différents groupes professionnels.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

This thesis is part of the development of artificial intelligence systems in the industrial sector. The effects of these technologies are rarely predicted in advance, as they are the result of interactions between technical systems, social systems, and the environment in which they are implemented. The effects of deployments depend as much on motivations as on appropriation dynamics, particularly with regard to transformations in work and organizations. These findings call for a study of the effects of the development and deployment of AI systems in the industrial environment, taking into account the social dynamics of the appropriation of these technologies.
This thesis aims to extend this questioning of the appropriation of AI systems in industrial environments by exploring the issue of reliability, a crucial aspect of these systems, which relies heavily on human design and management skills. Our thesis project proposes to evaluate the relevance of Charles Perrow's Normal Accident Theory in situations where socio-technical systems increasingly incorporate AI-based components. This theory asserts that a socio-technical system is all the more vulnerable because it is complex and its components are strongly coupled. In such a system, failure scenarios are unpredictable and human intervention capabilities are limited. This raises the question of the specificity of systems comprising one or more AIs with regard to issues of failure, predictability, and human intervention capabilities.
In light of these questions, we are interested in how the reliability issues of socio-technical systems are constructed and addressed during the design and deployment of autonomous AI-based systems. To this end, the thesis will study the process of incorporating and appropriating AI into complex socio-technical systems through the work of different professional groups.
------------------------------------------------------------------------------------------------------------------------------------------------------------------------
------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Début de la thèse : 01/11/

Funding category

Public funding alone (i.e. government, region, European, international organization research grant)

Funding further details

Concours pour un contrat doctoral