Grok sous le feu des critiques pour ses dérives génératives

La plateforme X affirme avoir renforcé les garde-fous de son outil d’intelligence artificielle, face à la multiplication des enquêtes officielles et des suspensions à l’étranger.

Le réseau social X a indiqué avoir déployé des dispositifs techniques visant à restreindre les capacités de son assistant conversationnel Grok. L’objectif annoncé est d’empêcher la création de montages visuels suggestifs mettant en scène des individus réels. Ces limitations, applicables à l’ensemble des comptes y compris ceux des abonnés premium, concernent spécifiquement la modification d’images vers des tenues jugées trop révélatrices. Toutefois, la société précise que l’interdiction totale de générer des représentations dénudées ne s’appliquerait que dans les territoires où une telle pratique est explicitement prohibée par la loi, laissant ainsi une marge d’interprétation.

Cette communication intervient dans un contexte de pressions réglementaires accrues. Plusieurs autorités, notamment en Europe et au Royaume-Uni, ont accueilli ces annonces avec une réserve marquée, soulignant qu’elles examineraient attentivement l’efficacité concrète de ces mesures. Des procédures d’enquête ont été ouvertes dans divers pays, motivées par des signalements concernant la production automatisée de contenus inappropriés. Une analyse indépendante récente avait en effet mis en lumière la proportion significative d’images générées par l’outil représentant des personnes, majoritairement des femmes, dans des postures ou tenues légères.

La controverse a déjà conduit à la suspension temporaire du service dans certaines nations asiatiques. Parallèlement, le procureur général de Californie a initié une investigation pour déterminer d’éventuels manquements à la législation locale. Des organisations de la société civile ont par ailleurs lancé un appel pour le retrait des applications concernées des principales boutiques en ligne.

Le fondateur de la plateforme, régulièrement critique envers les initiatives de régulation qu’il assimile à une entrave aux libertés, a réaffirmé que le développement de Grok suivait le principe du respect des juridictions en vigueur. Il a imputé les dérives constatées à des tentatives de contournement malveillantes, assurant que les failles identifiées étaient corrigées promptement. L’entreprise maintient que l’accès à la fonction de génération d’images reste conditionné à un abonnement payant, cadre dans lequel elle affirme modérer activement les contenus illicites.