The Japan Times - Un nouvel outil IA intégré à Google Earth inquiète des experts de la désinformation

L'outil "créer une image", déployé jeudi, permet aux utilisateurs de zoomer sur un lieu et de créer en quelques secondes des images artificielles à partir des données satellitaires, aériennes et de cartographie 3D de Google Earth.

Le géant américain présente cette fonctionnalité comme un moyen de "visualiser l'histoire, créer des projets immobiliers et plus encore".

Mais des chercheurs spécialisés dans la désinformation avertissent qu'elle pourrait permettre à des acteurs malveillants de détourner Google Earth - une ressource essentielle pour la vérification des faits - afin de créer de faux contenus géographiques très réalistes.

"Google a passé vingt ans à construire la référence à laquelle le monde entier se fie", a écrit sur la plateforme Substack l'expert en enquêtes numériques Henk van Ess. "Aujourd'hui, elle ajoute un bouton qui invente des choses."

"La falsification n'a même pas besoin d'être convaincante par elle-même", a-t-il ajouté. "Elle hérite de la crédibilité de la carte sur laquelle elle est fondée."

Brady Africk, analyste spécialisé dans l'imagerie satellite au sein du groupe de réflexion American Enterprise Institute, a alerté auprès de l'AFP sur le fait que cette mise à jour de Google Earth facilitait "la création de fausses images satellites convaincantes, susceptibles de se propager rapidement en ligne et de tromper le public".

"La multiplication de ces faux générés par l'IA pourrait également éroder la confiance du public dans les images satellites et compliquer le travail des journalistes et des chercheurs", a-t-il également mis en garde.

- Site nucléaire en Iran -

Google a affirmé, en réponse à l'AFP sur X, que les images créées avec cette fonctionnalité comportaient des marqueurs numériques invisibles, que les utilisateurs peuvent repérer à l'aide du chatbot Gemini de Google.

"Nous prenons la désinformation au sérieux", a écrit l'entreprise.

Google a ajouté empêcher la "création d'images sur des sujets dangereux" et a renvoyé vers une politique d'utilisation de l'IA qui proscrit la "désinformation, la présentation trompeuse des faits ou les activités visant à induire en erreur".

Des tests réalisés vendredi par l'AFP ont pourtant permis de fabriquer de fausses images satellites potentiellement nuisibles, d'un site nucléaire en Iran à un cratère de bombe en Russie en passant par un camp d'entraînement du groupe État islamique en Syrie.

Des faux similaires ont déjà eu des conséquences bien réelles. En 2023, une image générée par IA montrant une explosion au Pentagone avait brièvement ébranlé les marchés.

Au début de la guerre entre les États-Unis et l'Iran, une image satellite modifiée par IA montrant une base militaire américaine détruite avait également été vue des millions de fois sur les réseaux sociaux.

"Je ne saurais trop insister sur le caractère irresponsable de cette décision", a déclaré à l'AFP Ross Burley, directeur exécutif du Centre for Information Resilience, un groupe spécialisé dans les enquêtes en source ouverte basé à Londres.

"Il a fallu des décennies pour bâtir la confiance dans les images satellites, et celle-ci pourrait être irrémédiablement détruite du jour au lendemain", a-t-il ajouté, appelant Google à suspendre cette fonctionnalité.

GeoConfirmed, un projet collaboratif de vérification d'images de conflits à travers le monde, a également appelé Google à revenir sur sa décision.

"Nous voyons déjà des personnes exploiter le nouvel outil de Google Earth pour créer de fausses positions militaires, faire passer des bâtiments pour des écoles et tenter de manipuler l'espace médiatique", a écrit le groupe sur X.

"L'usage principal, et peut-être le seul usage réellement pratique de cet outil, semble être la création et la diffusion de mésinformation et de désinformation", a-t-il souligné.

T.Maeda--JT