The Japan Times - La bataille d'un universitaire américain pour purger ses "deepfakes" générés par IA

Ce spécialiste des relations internationales a passé des mois à demander à la plateforme de Google de supprimer des centaines de ces montages hyper-réalistes. Un cas d'école pour les professionnels vulnérables à la désinformation et à l'usurpation d'identité.

Ces derniers mois, son bureau à l'Université de Chicago a identifié 43 chaînes YouTube diffusant des contenus fabriqués par IA utilisant son image, certains lui prêtant des propos controversés sur des dossiers géopolitiques brûlants.

Un clip falsifié, également diffusé sur TikTok, prétendait ainsi montrer l'universitaire commentant les relations tendues entre le Japon et la Chine. Un autre très réaliste, avec une voix off en mandarin, faisait dire au chercheur que la crédibilité et l'influence américaines s'affaiblissaient en Asie au profit de Pékin.

"C'est terriblement perturbant", explique John Mearsheimer à l'AFP. "Cela sape la notion de discours ouvert et honnête dont nous avons tant besoin et que YouTube est censé faciliter".

Au coeur de la bataille réside ce que le bureau de l'universitaire décrit comme un processus lent et complexe, qui empêche de signaler des chaînes à moins que le nom ou l'image de la personne ciblée figure dans le titre, la description ou l'avatar de la vidéo.

Son bureau a donc été contraint de réclamer le retrait de chaque "deepfake" individuellement, un travail laborieux qui a mobilisé un employé dédié.

- Effort "herculéen " -

De nouvelles chaînes IA ont pourtant continué d'apparaître, certaines avec une simple modification orthographique - comme "Jhon Mearsheimer" - pour échapper à la détection. YouTube "n'empêche pas l'apparition de nouvelles chaînes, soi-disant de moi, publiant des vidéos générées par IA ", déplore Mearsheimer.

Après des mois de ce qu'il décrit comme un effort "herculéen ", YouTube a fermé 41 des 43 chaînes identifiées. Trop tard pour empêcher que nombres d'entre elles jouissent d'une forte visibilité. Et le risque de leur réapparition demeure.

"L'IA amplifie elle-même la capacité de fabrication. Quand n'importe qui peut générer en quelques secondes une image convaincante de vous, le préjudice n'est pas seulement dans l'image. C'est l'effondrement de la dénégation. La charge de la preuve se déplace vers la victime ", explique à l'AFP Vered Horesh, de la start-up IA Bria.

"La sécurité ne peut pas être dans le processus de retrait, elle doit être une exigence du produit", insiste-t-elle.

Un porte-parole de YouTube a pour sa part assuré que la plateforme s'engageait à développer "une technologie d'IA qui renforce la créativité humaine de manière responsable".

Dans sa lettre annuelle sur les priorités de YouTube pour 2026, son patron Neal Mohan a affirmé que la plateforme "renforçait activement " ses systèmes pour réduire la propagation du " AI Slop" ("bouillie d'IA", contenu visuel de piètre qualité diffusé massivement, ndlr), tout en prévoyant d'étendre les outils IA à destination des créateurs.

- Médecins et grands patrons -

L'expérience de Mearsheimer met en lumière un internet rempli de tromperies, où les avancées rapides de l'IA déforment la réalité et permettent à des escrocs anonymes de cibler des profils publics.

Les canulars produits avec des outils IA bon marché passent souvent entre les mailles du filet, trompant des utilisateurs peu méfiants.

Ces derniers mois, des identités de médecins ont été usurpées pour vendre de faux produits médicaux, celles de PDG pour diffuser des conseils financiers frauduleux, celles d'universitaires pour forger des opinions.

Mearsheimer prévoit de lancer sa propre chaîne YouTube afin de se protéger des usurpateurs. Adoptant une approche similaire, Jeffrey Sachs, économiste américain et professeur à Columbia, a récemment annoncé l'avoir fait en réponse à "la prolifération extraordinaire de fausses vidéos générées par l'IA (le) mettant en scène ".

"Les faux continuent de proliférer, et il n'est pas simple pour mon bureau de les repérer avant qu'ils n'aient circulé pendant un moment", constate-t-il. "C'est un casse-tête permanent ".

Y.Mori--JT