L’arme secrète qui fait dérailler les chatbots

Derrière la facilité d’utilisation des agents conversationnels se cache une vulnérabilité inquiétante. Des acteurs malveillants peuvent injecter de la désinformation directement dans leurs données d’entraînement.

ChatGPT, Mistral, Claude, Gemini. Ces assistants virtuels gagnent du terrain grâce à leur rapidité et leur simplicité. Mais leur intelligence dépend entièrement de gigantesques bases de données, collectées automatiquement en parcourant le web. C’est là que le bât blesse. En glissant de fausses informations, de la propagande ou du code malveillant dans ce flux, on peut influencer en profondeur ce que ces IA répondent ensuite. Le risque n’est plus seulement celui des erreurs ou des biais habituels, mais d’une manipulation volontaire et ciblée.

Les chercheurs identifient deux méthodes distinctes. La première, l’empoisonnement, intervient dès la phase d’apprentissage. Des éléments indésirables sont injectés dans les données pour contourner les filtres de fiabilité. La seconde, le conditionnement, se produit une fois le chatbot déjà en ligne. Des contenus trompeurs sont diffusés massivement sur internet dans l’espoir qu’ils soient intégrés par l’IA. Des tests ont montré que des chatbots grand public pouvaient s’appuyer sur un réseau de sites pro-russes pour répondre, amplifiant ainsi la propagande sans que l’utilisateur s’en rende compte.

Ces opérations sont difficiles à détecter car le fonctionnement des modèles reste opaque, souvent comparé à une boîte noire. Les purger exigerait un réentraînement complet, extrêmement coûteux en temps et en ressources. Ce flou attire des acteurs politiques, économiques ou étatiques qui veulent imposer leur récit. Une enquête a révélé qu’une entreprise dirigée par un ancien responsable de campagne américaine avait reçu des fonds pour diffuser des messages favorables via un réseau de sites, dans le but d’influencer les réponses des chatbots. Face à cette menace, la priorité est d’apprendre aux IA à distinguer les sources fiables de la propagande, un défi technique et politique de taille.