Fausses détresses, vrais profits : l’IA détourne les crises humanitaires sur TikTok

Sur la plateforme, des vidéos synthétiques exploitant la souffrance dans des zones de conflit génèrent un trafic massif, brouillant la frontière entre information et manipulation à des fins lucratives.

Des scènes de nourrissons en larmes au Soudan ou de fillettes prises dans des intempéries à Gaza circulent abondamment. Ces séquences, d’une dizaine de secondes, mettent en avant des civils, souvent des enfants ou des personnes âgées, dans une apparente détresse. Leur réalisme trompeur suscite une forte émotion parmi les utilisateurs, qui expriment leur soutien dans les commentaires. Pourtant, ces images ne sont pas des documents authentiques. Elles sont intégralement produites par intelligence artificielle.

La frontière entre le vrai et le faux devient de plus en plus poreuse pour le public. Des comptes aux noms évocateurs, parfois liés à des zones de tension, diffusent ces créations sans toujours indiquer leur origine synthétique, alors que la plateforme l’exige. Cette opacité alimente les tensions, notamment sur le conflit israélo-palestinien, chaque camp accusant l’autre sur les réseaux sociaux de propager des images biaisées pour influencer l’opinion. Les spécialistes observent que chaque crise majeure, qu’il s’agisse d’un conflit armé ou d’une catastrophe naturelle, s’accompagne désormais d’une prolifération de ces profils spécialisés dans la diffusion de contenus générés par IA.

La difficulté d’identification ne concerne pas seulement les internautes. Des personnalités politiques se sont déjà fait piéger, relayant par le passé des images artificielles présentées comme des preuves d’exactions. Les sujets choisis, bien que sensationnalistes, ne violent pas nécessairement les règles de modération de la plateforme. Ils en exploitent plutôt les mécanismes. Leur format très court et leur charge émotionnelle sont parfaitement adaptés à l’économie de l’attention qui prévaut sur TikTok, garantissant un engagement élevé et des millions de vues en quelques jours.

La logique économique de ces opérations est souvent indirecte. Si les créateurs de certains comptes identifiés comme opérant depuis des pays non éligibles aux programmes de revenus directs de la plateforme, ils peuvent néanmoins monétiser leur audience. Un compte au trafic important devient un actif qui peut être revendu pour servir ultérieurement à la promotion publicitaire ou à d’autres formes de propagande. Cette pratique encourage la multiplication de contenus trompeurs, conçus non pour informer, mais pour capter l’attention à tout prix.

Cette tendance pose un problème de fond. Elle banalise l’utilisation d’outils de synthèse pour instrumentaliser la souffrance, tout en saturant l’espace numérique de fictions réalistes. Les experts alertent sur les conséquences de cette confusion. À force d’être exposés à des images factices, certains internautes pourraient finir par douter des documents authentiques montrant des situations de crise, contribuant à une forme de cynisme ou de relativisme préjudiciable à la compréhension des événements. La plateforme se trouve ainsi confrontée à un défi complexe, où la manipulation des algorithmes et la recherche de viralité l’emportent souvent sur l’intégrité de l’information.