Des adolescentes assignent en justice l’IA Grok pour des images générées

Trois jeunes filles du Tennessee accusent le chatbot d’Elon Musk d’avoir produit des contenus pornographiques à leur effigie, une affaire qui pourrait concerner plus d’un millier de victimes mineures.

Une plainte collective a été déposée lundi devant un tribunal fédéral de Californie par trois adolescentes américaines. Elles reprochent à xAI, la société d’intelligence artificielle d’Elon Musk, d’avoir permis à son outil conversationnel, Grok, de créer des représentations pornographiques hyperréalistes à partir de leurs photographies personnelles. Ces images, issues de clichés partagés sur les réseaux sociaux ou provenant d’annuaires scolaires, auraient ensuite été diffusées sur diverses plateformes en ligne.

Cette action judiciaire s’inscrit dans un contexte plus large de multiplication de contenus falsifiés à caractère sexuel, ayant circulé massivement autour des fêtes de fin d’année. Le phénomène a provoqué une indignation internationale et motivé l’ouverture de plusieurs enquêtes. Les avocates des plaignantes estiment que cette affaire pourrait finalement regrouper plus d’un millier de victimes, toutes mineures.

Le dossier juridique détaille le parcours de ces montages, depuis leur création via Grok jusqu’à leur propagation sur des messageries privées et leur éventuelle monétisation sur le dark web. Les conséquences psychologiques pour les jeunes filles concernées sont décrites comme sévères, incluant des troubles du sommeil, des crises d’angoisse et une appréhension profonde face à des événements de la vie courante.

Les conseils des adolescentes soutiennent que xAI a sciemment conçu son modèle pour générer des contenus explicites, tout en omettant de mettre en œuvre les garde-fous contre la pédopornographie habituellement observés chez les principaux acteurs du secteur. La plainte s’appuie notamment sur des législations fédérales américaines permettant aux victimes de ce type d’infractions de réclamer réparation.

En réponse à la controverse, xAI avait annoncé en janvier des restrictions, limitant la génération d’images aux seuls abonnés payants et promettant de bloquer la création de contenus sexuels dans les juridictions où elle est interdite. Une étude récente avait pourtant évalué à plusieurs millions le nombre d’images sexualisées produites par Grok sur une courte période, dont des milliers mettant en scène des mineurs.

La procédure vise à obtenir des dommages et intérêts et à enjoindre la société de mettre un terme aux capacités de son outil à produire ce type de montages. Elle pose une question centrale sur la responsabilité des éditeurs de modèles d’IA, arguant que sans leur technologie, ces contenus illicites n’auraient pu voir le jour.