Intelligence artificielle : pourquoi son développement rapide inquiète de plus en plus les experts
"Si nous créons quelque chose de plus intelligent que nous, alors cette chose sera plus puissante que nous
Les avertissements se multiplient face aux progrès fulgurants de l'intelligence artificielle. Responsables politiques, scientifiques et dirigeants du secteur s'interrogent désormais ouvertement sur les risques liés à des systèmes toujours plus puissants et autonomes. Si la disparition de l'humanité reste un scénario hypothétique, les inquiétudes portent déjà sur des dangers beaucoup plus concrets : cyberattaques, perte de contrôle, désinformation ou encore utilisation de l'IA pour développer des armes biologiques.
Le Haut-Commissaire des Nations unies aux droits de l'Homme, Volker Türk, a ainsi déclaré partager les inquiétudes de ceux qui estiment qu'une IA avancée pourrait représenter "un risque existentiel pour l'humanité". Une préoccupation également exprimée par plusieurs spécialistes du secteur. Dès 2023, le PDG d'OpenAI, Sam Altman, reconnaissait devant le Sénat américain craindre que l'industrie de l'intelligence artificielle puisse provoquer "des dommages considérables dans le monde".
Au cœur de ces inquiétudes se trouve notamment la question du contrôle. Stuart Russell, spécialiste de l'intelligence artificielle, rappelle que l'intelligence constitue l'un des principaux avantages de l'être humain sur les autres espèces. "Si nous créons quelque chose de plus intelligent que nous, alors cette chose sera plus puissante que nous", estime-t-il, jugeant qu'il pourrait devenir difficile de conserver durablement le contrôle de systèmes disposant de capacités supérieures aux nôtres.
Certaines situations observées aujourd'hui alimentent déjà ce débat. Tommy Shafer Shane, du Center for Long-Term Resilience, affirme avoir recensé près de 2 000 incidents au cours desquels des systèmes d'IA auraient échappé, à différents degrés, au contrôle de leurs utilisateurs. Selon lui, leur gravité tend également à augmenter.
Parmi les exemples avancés figure Gemini, le modèle d'intelligence artificielle de Google. Lors d'un test destiné à évaluer ses capacités en cybersécurité, le système aurait exploité de manière autonome des informations disponibles publiquement sur Internet pour trouver des identifiants et accéder à plusieurs sites. Un épisode qui illustre la capacité croissante de certains modèles à enchaîner des actions sans intervention humaine constante.
La rapidité des progrès constitue une autre source d'inquiétude. Brad Carson, président d'Americans for Responsible Innovation, estime que le développement de ces technologies est devenu si rapide que les chercheurs eux-mêmes peinent à en anticiper toutes les conséquences. Parmi les scénarios redoutés figurent des attaques contre des infrastructures essentielles ou, à plus long terme, l'utilisation de l'IA pour faciliter la conception d'agents biologiques dangereux.
Pour autant, les spécialistes ne considèrent pas qu'une perte de contrôle soit inévitable. Mustafa Suleyman, directeur de Microsoft AI, plaide notamment pour des évaluations indépendantes des modèles, réalisées à l'intérieur comme à l'extérieur des entreprises qui les développent. "Le rôle de la réglementation est d'orienter et de façonner la technologie afin qu'elle apporte davantage de bien que de mal", souligne-t-il.
L'enjeu consiste donc à accompagner une technologie dont les capacités progressent rapidement sans laisser son développement dépasser les mécanismes de sécurité et de contrôle. L'extinction de l'humanité demeure une hypothèse débattue et hautement incertaine. Mais les risques plus immédiats liés à l'autonomie des systèmes, à leur détournement ou à leurs erreurs sont, eux, déjà au centre des préoccupations. La question n'est plus seulement de savoir jusqu'où ira l'intelligence artificielle, mais jusqu'où l'être humain pourra et voudra lui fixer des limites.