Désinformation sur le conflit américano-iranien, le réseau X peine à contenir le flot d’images fabriquées

Malgré l’annonce de sanctions financières contre les auteurs, les contenus trompeurs générés par intelligence artificielle continuent d’inonder la plateforme, brouillant la perception des événements.

La prolifération de contenus visuels artificiels relatifs aux tensions entre les États-Unis et l’Iran persiste sur le réseau social X. Cette situation perdure en dépit de mesures récemment dévoilées par la plateforme, qui prévoient la suspension temporaire ou définitive des revenus publicitaires pour les comptes diffusant ce type de productions sans les identifier clairement. Des chercheurs observent toutefois que ces annonces n’ont pas, pour l’instant, entraîné de ralentissement notable dans la publication de ces montages.

Ces créations, qui mêlent souvent des éléments plausibles à des scénarios fictifs, présentent par exemple des soldats américains capturés ou des infrastructures en feu. Leur réalisme sophistiqué rend leur distinction d’avec des documents authentiques particulièrement difficile pour les utilisateurs. Cette ambiguïté est parfois renforcée par les réponses erronées du chatbot Grok, intégré à la plateforme, qui a à plusieurs reprises validé la véracité de ces images.

Le modèle économique de X, qui rémunère partiellement les comptes abonnés au service premium en fonction de l’audience générée, est pointé du doigt. Il créerait une incitation financière à publier des contenus sensationnalistes, susceptibles de générer un fort engagement. Un compte certifié a ainsi laissé en ligne une vidéo montrant un célèbre gratte-ciel de Dubaï en flammes, laquelle a accumulé plusieurs millions de vues sans être signalée comme artificielle.

Le système de modération participative « Community Notes », présenté comme un garde-fou, montre ses limites. Une étude récente indique que la grande majorité des notes soumises par la communauté ne sont jamais publiées, limitant leur effet correcteur. Par ailleurs, la nouvelle politique de démonétisation ne concerne qu’une fraction des utilisateurs, ceux intégrés au programme de partage de revenus, laissant de nombreux diffuseurs en dehors de son champ d’application.

Des experts reconnaissent le caractère pertinent de l’approche choisie par X, visant à s’attaquer aux motivations économiques des diffuseurs de désinformation. Ils soulignent cependant que son efficacité dépendra étroitement de la rigueur de son application et de sa capacité à traiter les contournements techniques, comme la suppression des métadonnées identifiant l’origine artificielle d’un contenu. L’enjeu reste de taille pour une plateforme régulièrement critiquée sur ces questions depuis son changement de propriétaire.