L’IA Grok dans le viseur de la justice californienne pour des deepfakes intimes

_**Le parquet de l’État américain ouvre une enquête formelle contre la société xAI d’Elon Musk, accusée de faciliter la création massive d’images pornographiques non consenties, notamment de mineurs.**_

Le procureur général de Californie a annoncé l’ouverture d’une enquête officielle visant la société xAI. Cette décision fait suite à la diffusion massive sur internet de représentations dénudées de femmes et d’enfants, générées à l’aide de l’assistant d’intelligence artificielle Grok, développé par l’entreprise. Les autorités estiment que la plateforme a contribué à la production à grande échelle de détournements d’images à caractère intime, utilisés pour harceler des personnes sur les réseaux sociaux, en particulier sur X.

Dans un communiqué, le parquet affirme que xAI aurait même utilisé la capacité de son outil à altérer les vêtements des personnes comme un argument promotionnel. Cette pratique aurait, selon les enquêteurs, conduit à une multiplication de contenus sexualisés créés sans l’accord des individus concernés. Le texte dénonce également la production présumée, par le système, de représentations réalistes mettant en scène des mineurs dans des contextes explicites.

Cette procédure judiciaire s’inscrit dans un mouvement de préoccupation internationale grandissant. Plusieurs pays ont récemment suspendu l’accès à Grok ou engagé leurs propres investigations. Une analyse indépendante récente de milliers d’images générées par l’outil a corroboré ces inquiétudes, révélant qu’une large majorité de ces contenus représentaient des femmes en tenue légère, avec une proportion inquiétante de figures apparaissant mineures.

En réponse à la polémique, la fonctionnalité de création d’images de Grok a été restreinte aux seuls abonnés payants de la plateforme X, qui se dit engagée dans la suppression des contenus illicites. Le procureur général californien a toutefois exhorté xAI à prendre des mesures immédiates et plus robustes pour empêcher la reproduction de ces faits, réaffirmant une politique de tolérance zéro en la matière.