The Japan Times - La désinformation par l'IA prolifère à l'approche des élections américaines

A l’approche des élections de mi-mandat début novembre, les images créées par IA et plaçant des responsables politiques dans des situations fictives se multiplient aux Etats-Unis.

Candidat républicain à un siège de sénateur du Texas, Ken Paxton a posté récemment sur X un clip faisant dire à son adversaire démocrate James Talarico: "Vous savez, je me suis toujours vu comme un chrétien qui déteste le christianisme".

La vidéo, très réaliste, montre ce dernier écrivant "Que l'on compte six genres" avec des crayons multicolores dans une Bible.

En incrustation, un texte affirme que "James Talarico n'est pas fait pour le Texas", "pas fait pour l'Amérique"... et un QR code invite à faire des dons à la campagne de Ken Paxton.

James Talarico a dénoncé le clip et s'est dit favorable à l'interdiction des "deepfakes" dans la communication politique.

"Ces hypertrucages générés par IA n'apportent rien à notre débat citoyen. Ils ne contribuent en rien à éclairer le choix qui se présente aux électeurs", a-t-il déclaré à la chaîne NBC.

C'est la deuxième fois en quelques semaines que le jeune candidat démocrate texan se trouve la cible d'un tel clip.

Auparavant, une organisation conservatrice proche du président Donald Trump avait diffusé une autre vidéo truquée par IA qui montrait James Talarico vêtu d'un corsage et d'une jupe et parodiant le personnage de Julie Andrews dans le classique hollywoodien "La Mélodie du bonheur".

- Perte de confiance -

La prolifération des clips de campagne générés par IA dans toutes les élections, locales ou nationales, intervient dans un contexte de perte progressive de confiance envers l'intelligence artificielle.

"Le problème n’est peut-être pas que les gens croient ces publicités, mais que ces publicités et, plus généralement, tout le contenu bâclé produit par IA risquent de les amener à douter de tout", déclare à l’AFP Sarah Kreps, directrice du Tech Policy Institute à l’université Cornell (nord-est).

"Les gens pourraient en venir à rejeter des contenus authentiques en les considérant comme un hypertrucage de plus, ce qui mine la confiance et pousse les électeurs à se détourner", ajoute-t-elle.

Le Wesleyan Media Project, qui recense les dépenses de campagne, a identifié 164 clips "générés ou améliorés à l'aide de l'IA" dans tout le pays depuis le début de l'année.

Ce groupe d'universitaires indépendant évalue à un peu moins de 80 millions de dollars (70,1 millions d'euros) le coût de ces publicités politiques financées aussi bien par les républicains que par les démocrates et diffusées massivement à la télévision et sur les réseaux sociaux.

Mais il estime son décompte inférieur à la réalité car il est difficile de savoir avec certitude si des outils d’IA ont été utilisés dans certains messages.

"Savoir que la technologie est devenue suffisamment performante pour tromper le téléspectateur moyen, ajouté au fait qu’elle est utilisée pour la communication électorale, suffit à saper la confiance des électeurs", regrette auprès de l’AFP Ilana Beller, de l’ONG Public Citizen.

Des outils d'IA bon marché et largement accessibles permettent de réduire les coûts de production souvent exorbitants.

"Il n'y a plus besoin de payer une équipe de tournage ou d’engager des acteurs pour créer un contenu de qualité en peu de temps", explique Isabel Linzer, du Center for Democracy & Technology, une autre organisation non partisane.

"Plus besoin non plus de monteurs spécialisés dans les effets spéciaux, ces outils ouvrent la voie à la créativité", ajoute-t-elle, estimant que les publicités satiriques ou humoristiques générées par IA servent de "caricature politique moderne".

"Une question pertinente est de savoir si l’utilisation de l’IA dans les publicités politiques n’est pas un coup de communication destiné à faire monter un candidat en générant une importante couverture médiatique gratuite", interroge Mme Linzer.

Pour Scott Babwah Brennen, directeur du Center on Technology Policy à l'université de New York, les publicités générées par IA peuvent aider les candidats à collecter des fonds ou mobiliser des partisans, mais il existe peu de preuves qu’elles influencent le vote des électeurs.

"Une bonne partie de ces contenus semble effectivement efficace pour attirer l’attention, mais on ignore si cela se traduira par un succès électoral (...) Il est possible que les publicités négatives générées par IA se retournent contre leurs auteurs", estime-t-il.

M.Matsumoto--JT