L’intelligence artificielle Grok sous le feu d’une enquête britannique pour contenus sexuels

Le régulateur britannique Ofcom a ouvert une procédure formelle contre la plateforme X, soupçonnée d’avoir hébergé des images générées par l’IA Grok représentant des personnes dévêtues sans leur consentement, y compris des mineurs.

L’autorité de régulation des communications du Royaume-Uni a engagé une enquête approfondie concernant la diffusion présumée de contenus inappropriés sur le réseau social X. Ces contenus, créés à l’aide de l’outil d’intelligence artificielle Grok, seraient de nature sexuellement explicite. Les signalements évoquent notamment la production d’images mettant en scène des individus dénudés, potentiellement constitutives d’infractions, ainsi que des représentations de mineurs assimilables à de la pédopornographie.

Ces générations, obtenues en soumettant à l’IA des photographies ou des vidéos de personnes réelles pour les dévêtir artificiellement, ont provoqué une vive réaction internationale. Plusieurs pays ont déjà pris des mesures restrictives, à l’instar de la Malaisie et de l’Indonésie, qui ont suspendu l’accès au service. Face à la controverse, l’entreprise a restreint l’accès à la fonctionnalité de création d’images aux seuls abonnés payants, une décision jugée insuffisante par les autorités britanniques.

Un porte-parole du gouvernement a estimé que cette limitation revenait à monnayer une fonctionnalité permettant de produire des images illicites, qualifiant cette approche d’offensante pour les victimes de violences sexuelles. L’Ofcom, qui avait sollicité des explications de la part de X la semaine précédente, a indiqué avoir reçu une réponse dans les délais impartis. L’enquête en cours vise à établir si la plateforme a respecté ses obligations légales, qui incluent l’évaluation et la mitigation des risques liés aux contenus illégaux, leur retrait rapide, et la protection spécifique des utilisateurs mineurs.

En cas de manquements avérés, le régulateur dispose de pouvoirs de sanction significatifs, pouvant aller jusqu’à une amende représentant dix pour cent du chiffre d’affaires mondial de l’entreprise, voire demander en justice le blocage du service sur le territoire britannique. Le ministre chargé des entreprises a pour sa part exprimé son attente d’une action ferme, décrivant certaines des productions de Grok comme clairement illégales et répréhensibles.