Corée du Sud en guerre contre les contenus générés par IA avant les élections

Dans un bureau moderne de la banlieue de Séoul, des enquêteurs numériques traquent sans relâche les vidéos et audios synthétiques qui menacent l’intégrité du scrutin local du 3 juin.

Alors que les modèles d’intelligence artificielle deviennent plus performants et accessibles, la crainte d’une contamination massive de l’espace public par des informations falsifiées grandit. En Corée du Sud, pays où l’adoption de l’IA générative est parmi les plus rapides au monde, les autorités ont déployé des centaines d’agents pour surveiller les réseaux sociaux en amont des élections locales. Leur mission est de repérer et neutraliser tout contenu suspect avant qu’il n’influence le vote.

Choi Ji-hee, responsable de cette unité au sein de la Commission nationale électorale, reconnaît que la tâche se complexifie de jour en jour. « Chaque nouvelle version de l’IA rend les vidéos et les enregistrements audio encore plus réalistes », confie-t-elle. Son équipe d’une vingtaine de personnes scrute quotidiennement Instagram, YouTube, des forums en ligne ainsi que les sites des candidats locaux. Des logiciels développés par l’État, dont la précision avoisine 92 %, aident à détecter les manipulations, mais les contenus les plus élaborés nécessitent un examen humain approfondi.

Les découvertes témoignent d’une inventivité débordante. L’équipe a ainsi débusqué un faux reportage télévisé affirmant qu’un candidat à la mairie figurait dans un classement du Time Magazine, ainsi qu’une chanson de K-pop louant un politicien tout en raillant ses adversaires. Dans un coin du bureau, des employés échangent des techniques pour décortiquer des vidéos suspectes en extrayant séparément l’audio, les images clés, les visages et l’arrière-plan. Non loin, l’analyste de données Kim Ma-ru cartographie la diffusion des contenus truqués pour anticiper les prochaines vagues de désinformation.

Les élections du 3 juin constitueront le troisième grand scrutin organisé depuis le renforcement en 2023 de la législation contre les deepfakes. Plus de 45 % des Sud-Coréens utilisent l’IA générative, et le pays compte le plus grand nombre d’abonnés payants à ChatGPT après les États-Unis. « Il est devenu difficile pour les électeurs de distinguer le vrai du faux », observe Jung Hui-hun, spécialiste en criminalistique numérique à la Commission électorale. Avant l’élection présidentielle de 2025, une vidéo fabriquée montrant une grève de la faim du candidat Lee Jae Myung, finalement élu, avait été identifiée par le service de vérification digitale de l’AFP.

Kim Ma-ru compare cette chasse au faux à « un jeu de la taupe, où les taupes surgissent sans cesse ». Mais il considère cette mission comme un « devoir civique ». Le travail expose également les enquêteurs à des risques de harcèlement en ligne, si bien que Choi Ji-hee et Kim Ma-ru ont refusé d’être filmés. En Corée du Sud, les fausses informations alimentent des théories du complot aux conséquences parfois dramatiques. En décembre 2024, l’ancien président Yoon Suk Yeol avait justifié une tentative d’imposer la loi martiale par des accusations d’extrême droite sur un supposé piratage des votes. Il a été condamné à la prison à perpétuité.

Les créateurs de faux contenus récidivistes encourent jusqu’à sept ans de prison et de lourdes amendes. Kim Myuhng-joo, directeur du Korea AI Safety Institute, estime que ces règles peuvent sembler sévères, mais qu’un consensus public s’est formé en faveur d’une régulation stricte. Jung Hui-hun reconnaît que le dispositif étatique présente « de nombreuses limites », mais assure que les progrès sont réels, « lentement mais sûrement ».