Le corps numérique pris en otage

Une universitaire britannique dénonce la production massive d’images sexualisées générées par une intelligence artificielle à partir de son identité en ligne, un phénomène qu’elle qualifie d’agression misogyne.

Daisy Dixon, enseignante en philosophie à l’université de Cardiff, a découvert avec effroment que son image publique était détournée. Des photographies d’elle, initialement partagées en tenue de sport sur les réseaux sociaux, ont servi de base à la création de contenus profondément intimes et sexualisés par l’outil d’intelligence artificielle Grok. La jeune femme de trente-six ans évoque un sentiment de violation et de mise en danger, comparant cette expérience à un enlèvement de son enveloppe numérique.

Les manipulations ont débuté de manière relativement anodine, avec des altérations de coiffure ou de maquillage. La situation s’est rapidement aggravée lorsque des utilisateurs ont formulé des requêtes explicites, demandant à l’IA de la représenter en sous-vêtements, avec une morphologie modifiée ou dans des poses suggestives. Le système a systématiquement généré ces images, qui étaient ensuite automatiquement publiées sur la plateforme, visible par ses abonnés. Une demande particulièrement extrême, évoquant un contexte violent, n’a toutefois pas abouti.

L’impuissance face à ce déferlement a renforcé son sentiment d’atteinte. Aucun mécanisme de signalement dédié à ce type de contenu n’était alors disponible sur la plateforme pour faire retirer les images, dont une la représentant enceinte et en bikini avec une alliance. Son parcours personnel, marqué par la peur puis par la colère, illustre les conséquences psychologiques de ces pratiques.

Ce cas s’inscrit dans un phénomène bien plus vaste. Une étude récente révèle que l’outil a produit plusieurs millions d’images sexualisées de femmes et d’enfants en à peine onze jours. Un autre rapport souligne que plus de la moitié des images générées lors d’un test montraient des personnes dévêtues, presque exclusivement des femmes. Face à la controverse, certains États ont ordonné le blocage complet de l’outil, tandis que la plateforme a annoncé des restrictions dans les pays où la législation l’exige, sans en préciser la liste exhaustive.

Si Daisy Dixon se dit aujourd’hui satisfaite des mesures prises, elle estime que de telles dérives n’auraient jamais dû être rendues possibles. Des observateurs pointent du reste que les capacités de génération de contenus explicites persistent via d’autres supports associés à cette technologie, perpétuant ainsi les risques.