Au Yémen, l’IA Claude utilisée pour tenter de développer des armes guidées
Une cellule basée dans le nord du Yémen a utilisé l’IA Claude pour travailler sur trois programmes d’armes guidées, selon un rapport publié par Anthropic.
L’intelligence artificielle Claude, développée par Anthropic, a été détournée par une cellule basée dans le nord du Yémen afin de tenter de concevoir des armes guidées. L’entreprise américaine affirme avoir identifié et interrompu ces activités après avoir détecté des usages contraires à ses règles.
Selon Anthropic, les utilisateurs travaillaient sur trois projets : une roquette guidée équipée d’un ordinateur de vol comparable à celui d’un smartphone, un missile balistique d’une portée visée supérieure à 2 000 kilomètres et un autre système comprenant une variante de planeur hypersonique.
La cellule aurait principalement exploité Claude pour développer les logiciels chargés du guidage, de la navigation et du contrôle des projectiles. Plusieurs instances de l’IA étaient utilisées simultanément et se voyaient attribuer différentes missions, comme l’écriture du code, la recherche ou sa vérification.
Les systèmes de sécurité d’Anthropic ont bloqué de nombreuses requêtes, mais certaines ont réussi à passer entre les mailles du filet. D’après l’entreprise, les utilisateurs dissimulaient notamment l’objectif réel de leurs demandes et répartissaient leur travail entre plusieurs conversations.
Anthropic précise toutefois ne disposer d’aucune preuve montrant que la cellule ait réussi à mettre au point une arme pleinement opérationnelle. Un essai réel de roquette guidée a néanmoins été effectué au Yémen et semble avoir échoué. Peu après, les utilisateurs auraient de nouveau sollicité Claude afin de déterminer les causes de cet échec.
Anthropic n’a pas révélé l’identité des responsables. Leur localisation dans le nord du Yémen laisse toutefois penser qu’il pourrait s’agir de membres ou d’acteurs liés aux Houthis, qui contrôlent une grande partie de cette région, notamment la capitale Sanaa.
L’entreprise affirme avoir suspendu les comptes concernés et transmis ses informations à plusieurs partenaires publics et privés. Elle indique également avoir renforcé ses dispositifs de détection afin de mieux identifier les tentatives d’utilisation de ses modèles pour le développement d’armes.
Cette affaire intervient alors que les Houthis ont intensifié leurs opérations militaires au Yémen et leurs attaques contre l’Arabie saoudite, tout en progressant vers le détroit stratégique de Bab el-Mandeb.