The Japan Times - Le filtrage des contenus IA se développe face à l'irritation d'une partie des internautes

La bouillie IA, ou "AI slop", c'est le terme à la mode pour décrire la déferlante des photos et vidéos de "piètre qualité", selon l'expression du patron de YouTube Neal Mohan, qui envahissent internet depuis la sortie de nouveaux modèles plus avancés.

Il suffit désormais d'une phrase ou de quelques mots pianotés sur un clavier pour que Veo de Google, Sora d'OpenAI ou Dream Machine de Luma AI, les transforment en une courte vidéo à la définition et au réalisme saisissants.

Des chats qui peignent ou font du catch, des célébrités dans des situations grotesques, de faux dessins animés Pixar ou Studio Ghibli: ces purs produits IA pullulent sur la plupart des plateformes.

"C'est +cheap+, fade et produit en masse", résume Yves, ingénieur suisse qui se désole auprès de l'AFP de ce phénomène, comme des dizaines de personnes sur le réseau social Reddit. Des marques comme les salles de sport Equinox ou le lait d'amande Almond Breeze jouent sur ce thème dans leur dernier spot publicitaire.

Lancée en septembre, l'application Sora d'OpenAI, qui ne contient que des vidéos IA, a été téléchargée moins de cinq millions de fois sur la boutique Google Play, alors que ChatGPT compte plus de 800 millions d'utilisateurs hebdomadaires.

Certains prennent le contre-pied de cette révolte ou lassitude, le patron de Microsoft Satya Nadella invitant, dans une lettre ouverte, à "dépasser le débat entre bouillie et sophistication" du contenu.

"Quand on critique l'+AI slop+, on s'en prend à l'expression créative d'individus", fait valoir le YouTubeur Bob Doyle, spécialiste de création avec IA. "Vous pouvez ne pas être d'accord (avec ce contenu), ne pas le comprendre ou penser que c'est inutile, mais (...) c'est le début d'une idée. C'est une graine."

- "Connexion humaine" -

Pour autant, Pinterest, site d'inspiration créative et réseau social, a jugé la question suffisamment importante pour introduire, en octobre, des fonctionnalités permettant de filtrer une partie des contenus générés par IA.

La plateforme a indiqué à l'AFP avoir pris cette initiative pour satisfaire certains internautes qui souhaitaient voir moins d'IA.

TikTok a annoncé en décembre l'arrivée d'un filtre. Sur Instagram, Facebook ou YouTube, il existe des moyens de réduire l'apparition d'images artificielles, mais pas de dispositif dédié.

Jusqu'ici, les grandes plateformes ont dit se concentrer sur l'identification des vidéos IA. Pour autant, un examen approfondi montre que de nombreuses séquences, manifestement IA, ne sont pas labellisées comme telles sur YouTube, Instagram ou TikTok.

Certains petits acteurs ont adopté une approche plus volontariste, voire plus restrictive, tels Coda Music, plateforme de streaming musical fondée en 2019 et qui a conclu des accords avec les trois principales maisons de disques mondiales.

Plutôt que de recourir à un logiciel de détection, "nous invitons nos utilisateurs à signaler les artistes suspectés d'être IA", ce qui entraîne une vérification puis un étiquetage le cas échéant, décrit Randy Fusee, patron de Coda Music.

"Les gens participent beaucoup à l'identification et (...) dans l'ensemble", leurs soupçons "se vérifient", ajoute le fondateur de ce site fort d'environ 2.500 utilisateurs qui compte sur une campagne au printemps pour élargir son audience.

Le site offre également l'option de bloquer tous les contenus 100% IA, qui n'apparaîtront plus dans les playlists suggérées. "Pour la plupart", les passagers de la plateforme "ne veulent pas de musique IA", relève Randy Fusee.

Cara, plateforme d'exposition d'oeuvres graphiques fréquentée par plus d'un million de personnes, s'appuie sur une combinaison d'algorithmes et de modération humaine pour écarter toute composition IA. Il s'agit notamment de préserver la création humaine, pour protéger les artistes mais aussi répondre à une demande.

"Les gens veulent une connexion humaine", estime Jingna Zhang, fondatrice de Cara. "Cela n'a pas besoin d'être parfait. Je peux aimer un dessin d'enfant parce que je le trouve charmant", par contraste avec une image "fabriquée par une machine qui n'a pas d'intentions".

S.Fujimoto--JT