Offres d'emplois
contrat doctoral

Autres

Date : 19/10/2023

Thèse CIFRE : Acceptabilité, appropriation et explicabilité de l’IA dans les systèmes navals

Ecole navale
Brest - Lanvéoc
Partager cette offre

Présentation de l'établissement :

Contexte et objectifs

La Marine nationale a pour caractéristique de constituer une armée à haut niveau technologique, intervenant dans un milieu naturel relativement hostile. Conjuguer une culture militaire spécifique, des cultures de métier (ex. : chasse aux mines, guerre électronique, patrouille maritime, etc.), l’usage de technologies avancées et le contexte du risque vital, influence les usages professionnels de manière complexe et subtile. L’arrivée de nouveaux systèmes fondés sur l’intelligence artificielle (IA) ne constitue donc pas uniquement une révolution sur le plan technique, mais aussi une transformation non négligeable des manières de travailler, des usages, des organisations et des cultures (Tangredi et Caldorisi, 2021). La bonne utilisation de ces systèmes ne dépend pas que de leur efficacité mais aussi de leur adaptation aux contextes d’emploi et aux opérateurs.

En ce qui concerne les systèmes de détection (par radars, moyens de détection électromagnétique et sonars), cette adaptation concerne la prise en compte de l’organisation des équipes, des habitudes sociocognitives et culturelles des marins, de la nature des missions et du niveau critique des situations dans lesquelles ils se trouvent. Elle conditionne l’acceptabilité et l’appropriation des caractéristiques du système et des interactions qu’il permet ou impose entre agents humains et non-humains.

A l’intérieur de cette question, souvent abordée de manière assez large, vient le problème plus spécifique de l’explicabilité des données et de la manière dont elles sont produites par le système. Les marins ont parfois l’impression d’être saturés de données numériques, tout en étant éloignés physiquement du milieu naturel dans lequel ils ont choisi de travailler. Les états de fatigue et de stress conditionnent l’usage qu’ils font des données transmises par les machines. Tout en étant habitués et formés à interagir avec la haute technologie, ils sont également guidés par le souci de la haute fiabilité de ces données, condition de leur sécurité et de la réussite des missions. Leur logique cognitive, dans une situation donnée, n’est pas forcément la logique computationnelle du système. Ils ont donc besoin d’une certaine mise en forme de ces données, et d’une certaine quantité d’informations sur la manière dont elles sont produites, ce qu’elles prennent en compte ou non, et pourquoi.

Alors que se développent dans la Marine nationale les systèmes de détection supportée par l’IA, il est important de prendre en compte les fonctions d’explicabilité dans la conception de ces systèmes, pour permettre leur bonne utilisation par les marins.

L’objectif de la thèse est donc d’étudier les pratiques professionnelles des marins, leurs caractéristiques et leurs habitudes sociocognitives, pour mieux comprendre ce qui sous-tend l’acceptation et l’appropriation des systèmes intelligents par ces mêmes marins et être ainsi en mesure de spécifier ce que peuvent être les critères d’explicabilité dans ce contexte, comment transformer certaines des habitudes et pratiques, et mieux former ces marins.

Description du poste :

Etat de l’art et positionnement général de la thèse

Le contexte général de l’arrivée de l’IA dans les systèmes navals de défense fait l’objet d’études, notamment pour caractériser la transformation des pratiques de combat (Tangredi et Caldorisi, 2021).

S’il existe quelques grandes études macrosociologiques sur la Marine nationale, il n’existe pas d’étude de terrain qui caractérise finement ce qu’est le métier d’opérateur des systèmes de détection et de classification, jusqu’à la décision, ni ce qui amène à l’acceptation ou au rejet de tels systèmes par les opérateurs, ou encore comment favoriser l’appropriation de ces systèmes par les marins pour maximiser l’efficacité opérationnelle.

L’explicabilité de l’IA est quant à elle déjà étudiée depuis des années dans des contextes socioprofessionnels à forts enjeux éthiques et forte visibilité sociale, comme la médecine (Herzog, 2022), mais peu ou pas dans le contexte des systèmes de défense.

Environnement et plan de travail

L’environnement et les équipements fournis par le partenaire industriel Thales DMS permettront d’aborder les questions scientifiques complexes que nous souhaitons traiter dans cette thèse.

Environnement de simulation – Le cadre applicatif envisagé est celui de la Guerre Electronique sur les bâtiments de surface de la Marine nationale (frégates multi-missions, frégates de défense anti-aérienne, frégates de défense et d’intervention, porte-avions, sous-marins en surface…) consistant à capter et analyser les émissions radar dans l’environnement de la plateforme, pour identifier les forces en présence et d’éventuelles menaces (radars de conduite de tir, radars de guidage de missiles…) et le cas échéant produire la réaction appropriée à la protection de la plateforme (déclenchement d’un brouillage, tir d’un leurre). Dans ce cadre, la société Thales DMS a développé et mettra à disposition un simulateur permettant de jouer des scénarios paramétrables. En particulier, le nombre d’émetteurs radar, leur « criticité » (dans le cas des menaces) ou les temps de traitements sont autant de paramètres que l’on pourra faire varier afin de créer des situations plus ou moins complexes. Thales DMS a également prévu de mobiliser, à des fins d’expérimentation, un ensemble de sujets « experts » au sens large, qu’il s’agisse d’anciens opérationnels ou d’ingénieurs spécialistes du domaine d’application.

Outil d’assistance à base d’intelligence artificielle – Le simulateur proposé par Thales DMS comme support expérimental sera équipé d’un outil d’assistance, fondé sur des techniques d’intelligence artificielle, développé par Thales DMS. Cet outil propose une classification automatique des émetteurs, et de leur niveau de criticité dans le cas des menaces, ce qui permet d’augmenter l’efficience des opérateurs de guerre électronique, c’est-à-dire de réduire significativement le temps de traitement des émetteurs présents dans l’environnement de la plateforme. Comme pour le simulateur de façon générale, l’accès à cet outil et son adaptation aux scénarios, en particulier l’intégration de techniques d’explicabilité, sera rendu possible pour les besoins du travail de thèse.

 

Sur la base de cet état des lieux, on prévoit une structuration des travaux comme suit :

WP1 – Les premiers travaux de la thèse concerneront l’établissement d’un état de l’art ciblé sur l’acceptabilité et l’appropriation des systèmes intelligents, ainsi que sur les différentes approches de l’explicabilité de l’IA.

WP2 – La seconde action portera sur la caractérisation des besoins des marins en matière d’usage des systèmes intelligents et d’explicabilité de l’IA, sur la base d’enquête de terrains dans les unités, par observations et par entretiens.

WP3 – Une troisième action concerne la prise en compte de ces critères dans la conception des systèmes fondés sur l’IA, à travers une collaboration avec les experts de Thales.

WP 4 – La dernière partie du travail de thèse sera comme de coutume consacrée à la rédaction du mémoire et des publications scientifiques restant à finaliser.

L’équipe d’encadrement de la thèse sera constituée d’un chercheur de l’Ecole navale en tant que co-directeur de thèse, d’un chercheur en psychologie comme co-directeur, et d’un expert Thales en tant qu’encadrant industriel.

La thèse se déroulera en temps partagé entre Thales DMS France et l’Ecole navale (répartition à définir, en sachant que la part de temps passée chez Thales ne pourra en aucun cas être inférieure à 50% du temps total)

 

Références bibliographiques :

Herzog, C. (2022). ‘On the risk of confusing interpretability with explicability’. AI and Ethics (2022) 2:219–225 doi.org/10.1007/s43681-021-00121-9.
Robbins, S. (2019). ‘A Misdirected Principle with a Catch: Explicability for AI’. Minds and Machines 29:495–514 doi.org/10.1007/s11023-019-09509-3
Tangredi, S. & Caldorisi, G. (ed.) (2021). AI at War. How big data, artificial intelligence and machine learning are changing naval warfare. Naval Institute Press.
Zakershahrak, M., Sonawane, A., Gong Z., Zhang, Y. (2018). ‘Interactive Plan Explicability in Human-Robot Teaming’. 27th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN).

Profil recherché / Compétences requises

Titulaire d’un Master 2 en psychologie.

Documents à transmettre

CV et lettre de motivation.

Contact :

Partager cette offre

Publier une offre d'emploi

Offres récentes

BBA Bordeaux

Abonnez-vous à notre newsletter !

(*) Champs obligatoires