Un rapport de renseignement généré avec l’IA aurait failli provoquer une confrontation militaire entre les États-Unis et la Chine

L’armée américaine a été proche de lancer une opération contre un navire chinois au Moyen-Orient après la diffusion d’un rapport de renseignement affirmant à tort que le bâtiment transportait des composants liés à un programme d’armes nucléaires.

L’incident se serait produit au printemps, dans le contexte de la guerre avec l’Iran. D’après quatre sources citées par CNN, l’information a provoqué une réaction rapide au sein de l’appareil militaire américain : des préparatifs ont été engagés pour intercepter le navire. Deux sources affirment que des militaires armés se préparaient à monter à bord, tandis que deux autres indiquent que des avions militaires avaient déjà décollé.

L’opération n’a finalement pas été menée. Une nouvelle vérification du renseignement a permis de découvrir que l’évaluation avait été élaborée avec l’aide d’un système d’intelligence artificielle et que le chatbot avait incorrectement identifié la nature de la cargaison. CNN n’a pas pu déterminer ce que transportait réellement le navire.

Selon les informations rapportées, un analyste aurait interrogé un chatbot à partir de renseignements concernant le manifeste du bâtiment. L’outil aurait combiné des informations provenant de sources ouvertes avec du renseignement électromagnétique classifié avant d’aboutir à une conclusion erronée. L’intelligence artificielle aurait ensuite de nouveau été utilisée pour mettre ces conclusions sous la forme d’un rapport destiné à être diffusé dans les circuits militaires.

Une source interrogée par CNN a décrit le rapport comme « entièrement faux » et estimé que l’épisode avait presque déclenché une guerre. Cette dernière formulation constitue l’appréciation de cette source : aucune confrontation armée n’a effectivement eu lieu entre Washington et Pékin à la suite de l’incident.

L’affaire intervient alors que le département américain de la Défense accélère l’intégration de l’intelligence artificielle dans ses activités. Ces technologies sont notamment envisagées pour analyser d’importants volumes de renseignements, faciliter certaines décisions opérationnelles, gérer la logistique ou contribuer aux processus de sélection des cibles.

L’épisode met cependant en évidence le risque des « hallucinations » produites par les modèles génératifs : une réponse apparemment crédible peut contenir une information entièrement incorrecte. Dans le domaine militaire, une telle erreur peut avoir des conséquences particulièrement importantes lorsque les résultats produits par une IA sont intégrés à des procédures opérationnelles sans vérification humaine suffisante.

CNN rapporte par ailleurs que plusieurs responsables américains s’inquiètent du caractère décentralisé de l’adoption de ces technologies : différentes administrations et unités utiliseraient des outils et des normes de sécurité qui ne sont pas nécessairement identiques.