The Japan Times - La Corée du Sud en pleine traque à la désinformation par IA avant des élections

Les experts s'inquiètent que des modèles d'intelligence artificielle (IA) toujours plus sophistiqués et moins coûteux alimentent massivement la désinformation en ligne. Des craintes d'autant plus vives en Corée du Sud que l'IA y a été adoptée particulièrement vite.

Face à ce phénomène, le gouvernement a recruté des centaines d'opérateurs pour repérer et bloquer les contenus suspects en amont des élections locales du 3 juin.

Mais certains des gendarmes de l'IA ont le sentiment de livrer un combat perdu d'avance.

"Nous constatons la vitesse à laquelle cette technologie évolue: chaque nouvelle version de l'IA rend les vidéos et les enregistrements audio encore plus réalistes", relève Choi Ji-hee, qui mène cette lutte contre la désinformation à la Commission électorale nationale (NEC) à Gwacheon, au sud de Séoul.

"Notre travail est de plus en plus difficile", souligne-t-elle auprès de l'AFP.

Journée type de son équipe d'une vingtaine de personnes: parcourir Instagram, YouTube et autres réseaux sociaux, mais aussi des forums en ligne et les sites de responsables locaux, à la recherche de contenus concoctés par IA.

Des logiciels développés par l'Etat pour débusquer l'IA offrent selon leurs responsables une précision d'environ 92%, à charge pour les experts d'examiner les contenus les plus sophistiqués.

Leurs trouvailles témoignent d'une grande créativité: un faux reportage télévisé affirmant qu'un candidat au poste de maire figurait dans un classement du Time Magazine des personnalités politiques émergentes, ou une chanson de K-pop encensant un politicien et moquant ses rivaux. Tous deux fruits de l'IA.

Dans un coin du bureau, des employés s'échangent des conseils pour disséquer une vidéo suspecte: en extraire séparément l'audio, les images clés, les visages et l'arrière-plan...

Non loin, l'analyste de données Kim Ma-ru cartographie où, quand et par qui les contenus truqués ont été diffusés, pour aider l'équipe de Choi Ji-hee à détecter plus rapidement les prochains.

- "Jeu de la taupe" -

Les élections du 3 juin seront le troisième grand scrutin organisé en Corée du Sud depuis un renforcement en 2023 de la législation contre l'utilisation des deepfakes.

Plus de 45% des Sud-Coréens utilisent l'IA générative, selon des chiffres du gouvernement. Selon la maison mère de ChatGPT, OpenAI, le pays est celui qui compte le plus d'abonnés payants au service, hors Etats-Unis.

"En très peu de temps, il est devenu difficile pour les électeurs de distinguer ce qui est réel de ce qui ne l'est pas", observe Jung Hui-hun, spécialiste en criminalistique numérique à la Commission électorale.

Avant l'élection présidentielle de 2025, le service de vérification digitale de l'AFP avait identifié une vidéo fabriquée par IA simulant une grève de la faim de Lee Jae Myung, finalement élu.

La chasse au faux générés par IA "est un travail épuisant qui fait parfois penser au jeu de la taupe", où des taupes surgissent au fur et à mesure qu'on essaie de les éliminer avec un marteau, confie Kim Ma-ru à l'AFP.

Mais c'est "un devoir civique", souligne l'analyste.

Un travail également exposé: Choi Ji-hee et Kim Ma-ru ont refusé d'être filmés en raison du harcèlement en ligne pouvant les cibler ainsi que leurs collègues.

En Corée du Sud, les fausses informations nourrissent et sont alimentées par diverses théories du complot, avec des conséquences parfois dramatiques.

En décembre 2024, l'ex-président Yoon Suk Yeol avait ainsi justifié une tentative d'imposer la loi martiale par des allégations d'extrême droite sur un supposé piratage des votes. Il a été condamné à la prison à perpétuité.

En cas d'infraction, les créateurs de faux contenus récidivistes s'exposent à des peines allant jusqu'à sept ans de prison et à de fortes amendes.

"Ces règles peuvent sembler excessives", fait remarquer Kim Myuhng-joo, à la tête du Korea AI Safety Institute, mais "un consensus s'est dégagé au sein de l'opinion publique sur la nécessité d'une réglementation stricte".

Pour Jung Hui-hun, le dispositif étatique présente "de nombreuses limites". Mais "nous avançons, lentement mais sûrement".

T.Shimizu--JT