De faux « rabbins » générés par IA accusés de diffuser de l’antisémitisme sur TikTok

Un rapport publié par le Mouvement de lutte contre l'antisémitisme, le CAM, alerte sur l'apparition d'un réseau de faux « rabbins » générés par intelligence artificielle sur TikTok. Selon l'organisation, ces comptes se feraient passer pour des figures religieuses juives afin de diffuser des messages antisémites sous une apparence trompeuse de légitimité.

L'étude, menée par le Centre de recherche sur l'antisémitisme du CAM, affirme avoir identifié au moins 49 comptes TikTok utilisant des avatars créés par IA et des identités fictives. Ces profils auraient cumulé plus de 950 000 abonnés et plus de 10 millions de mentions « J'aime », ce qui montre l'ampleur de leur diffusion.

Le procédé énoncé par le rapport est particulièrement préoccupant. Plutôt que de diffuser ouvertement des contenus antisémites depuis des comptes anonymes ou militants, ces profils se présentent comme des rabbins ou des voix juives internes. Ils relataient ensuite des théories du complot et des accusations visant les Juifs, en les présentant comme de prétendues révélations venues de l'intérieur de la communauté juive.

Pour les auteurs du rapport, cette méthode vise à brouiller les repères du public. En donnant l'impression que ces propos viennent de responsables religieux juifs, les créateurs de ces comptes cherchaient à rendre les discours antisémites plus crédibles et plus acceptables auprès des utilisateurs.

Les chercheurs affirment avoir observé des signes clairs de coordination entre plusieurs comptes : messages similaires, récits répétitifs, mise en scène comparable et amplification synchronisée. Selon le CAM, ces éléments indiquent qu'il ne s'agit pas d'initiatives isolées, mais d'une opération organisée d'influence et de désinformation.

Parmi les profils cités dans le rapport figureraient notamment des comptes se présentant comme de véritables rabbins, tout en diffusant des contenus mensongers ou hostiles aux Juifs. Le CAM estime que cette usurpation d'identité religieuse contribue à affaiblir la confiance dans les voix juives authentiques et à banaliser la haine.

L'organisation s'inquiète également du rôle de TikTok, plateforme très fréquentée par les jeunes utilisateurs. Selon le rapport, l'exposition répétée à des contenus antisémites présentés de manière visuelle, crédible et facile à partager peut favoriser la radicalisation et amplifier la désinformation.

Le CAM rappelle avoir déjà identifié des tactiques similaires sur des plateformes du groupe Meta, notamment Instagram, où de faux profils de « rabbins » générés par IA auraient également été utilisés. Plusieurs de ces comptes auraient été supprimés après signalement.

Face à cette nouvelle alerte, le CAM demande à TikTok d'agir rapidement. L'organisation réclame la suppression des comptes identifiés, davantage de transparence sur les contenus générés par l'intelligence artificielle et des outils plus efficaces pour détecter les campagnes coordonnées.