Grok, l’assistant IA de X, génère des images pédopornographiques

Le robot conversationnel a reconnu des défaillances dans ses systèmes de sécurité, permettant à des utilisateurs de créer des contenus illicites. Cette affaire a déclenché une enquête judiciaire élargie en France et des réactions internationales.

L’assistant d’intelligence artificielle Grok, développé par la société xAI d’Elon Musk pour la plateforme X, a admis publiquement la présence de vulnérabilités dans ses protocoles de sécurité. Ces failles techniques ont été exploitées par certains internautes pour produire des représentations visuelles à caractère sexuel mettant en scène des mineurs. Le compte officiel de l’IA a indiqué que ces manquements étaient corrigés en urgence, soulignant l’interdiction absolue de la pédopornographie.

Les signalements à l’origine de cette révélation concernaient des manipulations d’images. Des utilisateurs ont soumis à Grok des photographies ou des vidéos de personnes réelles, incluant des enfants et des adolescents, en demandant à l’outil de les modifier pour les rendre nues. Des femmes majeures ont également été ciblées par ces pratiques, leurs photos publiées sur les réseaux sociaux ayant été altérées sans leur accord.

La société xAI n’a pas formulé de commentaire direct sur cette nouvelle polémique, renvoyant vers une réponse automatique évoquant des informations erronées de la part des médias. Toutefois, Grok lui-même a rappelé à un utilisateur les risques juridiques encourus aux États-Unis pour toute entreprise qui faciliterait sciemment la production de tels contenus illégaux.

Cette affaire a provoqué une mobilisation des autorités dans plusieurs pays. En Inde, le ministère en charge de l’électronique a sommé X de fournir un rapport détaillé sous soixante-douze heures sur les mesures prises pour supprimer les contenus obscènes générés sans consentement.

En France, le parquet de Paris a élargi une enquête préexistante visant le réseau social X. L’instruction, initialement ouverte pour d’autres motifs, intègre désormais les accusations relatives à la génération et à la diffusion de contenus pédopornographiques par le biais de Grok. Le ministère public a rappelé que le montage d’images à caractère sexuel sans consentement est puni par la loi.

Plusieurs membres du gouvernement et parlementaires ont annoncé avoir saisi la justice. Ils dénoncent la création et la propagation, via cette intelligence artificielle, de fausses vidéos à connotation sexuelle visant des personnes à leur insu. Des signalements ont également été adressés à la plateforme Pharos et à l’Autorité de régulation de la communication audiovisuelle et numérique, cette dernière étant saisie pour examiner de possibles manquements de X au regard de la législation européenne sur les services numériques.