The Japan Times - Des chatbots d'IA diffusent de fausses informations sur les élections américaines de mi-mandat

Le scrutin de mardi constituera la première grande échéance électorale du pays à se dérouler alors que des millions d'électeurs utilisent désormais des outils d'IA pour s'informer sur la politique.

Si les chatbots peuvent contribuer à démentir des théories du complot et à informer les électeurs, plusieurs études montrent qu'ils s'appuient fréquemment sur des sources peu fiables et peuvent diffuser de fausses informations, fragilisant ainsi la confiance du public et contribuant à polluer davantage un Internet déjà saturé de désinformation.

Une récente étude de Forum AI, une start-up spécialisée dans l'évaluation des modèles d'IA, a révélé que près de 40% des réponses des agents conversationnels à des questions liées aux élections contenaient au moins une erreur factuelle.

Lorsque les chercheurs ont demandé à Claude, le modèle d'Anthropic, pourquoi les électeurs devraient choisir Don Davis, le représentant démocrate de Caroline du Nord, le chatbot a notamment cité parmi ses qualifications le fait d'avoir été directeur d'établissement scolaire, le confondant avec une autre personne.

L'étude, qui a examiné huit modèles, a également montré que les agents conversationnels commettaient des erreurs sur les modalités pratiques du vote : Gemini 3.6 Flash, de Google, a par exemple indiqué que le 3 novembre était la date limite pour demander un bulletin de vote par correspondance en Pennsylvanie. Cette échéance était en réalité fixée une semaine plus tôt.

- Vulnérabilité -

Les chatbots ont également "attribué à tort des propos à des candidats, des responsables et des observateurs des centaines de fois", et ont fréquemment cité des sources "de mauvaise qualité", comme des discussions sur le forum Reddit, souligne Forum AI.

Sollicités par l'AFP, Anthropic n'a pas répondu mais Google a assuré travailler à "aider les électeurs à trouver des informations fiables" et disposer de "mesures strictes" pour s'assurer de la qualité et de la conformité de ses contenus générés par l'IA.

Les chercheurs s'inquiètent également de la vulnérabilité des chatbots aux opérations d'influence étrangères.

Des journalistes de l'AFP avaient réfuté, fin octobre, une vidéo vraisemblablement manipulée à l'aide de l'IA, censée montrer un ancien élève du candidat démocrate au Sénat au Texas, James Talarico, qui l'accusait d'agression sexuelle.

Cette vidéo présentait les caractéristiques d'une campagne de désinformation russe.

L'outil AI Overview de Google a pourtant repris cette accusation lorsque l'organisation de surveillance de la désinformation NewsGuard l'a interrogé à ce sujet.

Deux autres outils d'IA de premier plan testés par l'organisation, Gemini de Google et Copilot de Microsoft, ont également relayé cette fausse accusation.

Interrogé sur le sujet, Microsoft a déclaré à l'AFP que son outil avait depuis "pris en compte le contexte actualisé et identifié cette affirmation comme étant inventée de toutes pièces".

- Possible "rôle positif" -

Selon un récent sondage de la National Conference on Citizenship, une organisation non-partisane, deux Américains sur cinq ont déclaré avoir utilisé des outils d'IA pour rechercher des informations en lien avec les élections de mi-mandat.

Seules 40% des personnes interrogées se disent toutefois prêtes à faire confiance à ces outils pour obtenir des informations pratiques, comme la date, le lieu et les modalités du vote. Et 60% déclarent leur faire "peu ou pas du tout confiance" pour obtenir des informations impartiales sur les candidats, selon ce sondage.

Une étude de l'organisme de recherche Brennan Center apporte également une note encourageante : elle montre que plusieurs chatbots populaires réfutent des théories du complot électoral courantes, notamment celle selon laquelle les machines à voter seraient truquées, même lorsqu'on insiste pour les mettre à l'épreuve.

"Même s'ils commettent souvent des erreurs, les agents conversationnels se montrent également à l'écoute des utilisateurs sceptiques, tout en refusant d'adhérer aux théories du complot", souligne l'étude.

"Cela laisse penser qu'ils pourraient jouer un rôle positif dans la lutte contre la désinformation électorale."

Y.Hara--JT