The Japan Times - Des tribunaux de plus en plus sévères face aux erreurs de l'IA

Lorsqu'un juge américain a découvert, en début d'année, sept précédents inventés ou déformés dans un mémoire d'avocat sur une affaire de préjudice corporel, ce dernier a reconnu avoir utilisé Claude, le chatbot IA d'Anthropic, pour rédiger le document, puis le corriger. L'avocat, pourtant expérimenté, a expliqué ne pas avoir vérifié le contenu finalement généré par l'IA avant de le déposer, pensant qu'il serait exact.

"L'ignorance des risques liés à l'utilisation de l'IA n'est plus une excuse", a tranché le juge Jerry Edwards Jr du tribunal de district de Louisiane chargé du dossier, infligeant à l'avocat une amende de 1.000 dollars (864 euros) et l'obligation de suivre une formation de trois heures sur la pratique juridique assistée par l'IA.

De même, la semaine dernière, le juge fédéral Sharion Aycock a sanctionné des avocats des deux parties dont les mémoires rédigés à l'aide de l'IA dans un cas civil au Mississippi citaient des cas inexistants. Outre une amende totale de 8.000 dollars pour quatre avocats, deux d'entre eux se sont vu interdire d'exercer pendant deux ans devant le même tribunal du Mississippi.

Depuis avril 2023, environ 1.600 cas similaires, comportant des contenus fabriqués de toutes pièces par des modèles d'IA dans des documents judiciaires, ont été recensés, principalement aux États‑Unis mais aussi dans 35 autres pays, selon une base de données non exhaustive, créée par Damien Charlotin, avocat français et chercheur associé à HEC Paris.

- "Atteinte à la réputation" -

Malgré la publication de recommandations par de nombreux ordres et associations d'avocats dans le monde ces dernières années, insistant notamment sur la nécessité de vérifier les contenus générés, le nombre d'hallucinations recensées dans les documents judiciaires a été multiplié par huit au cours des douze derniers mois par rapport à l'année précédente, selon les données de Damien Charlotin.

L'IA est "une technologie qui aime suivre les modèles", explique le chercheur français à l'AFP. Or, le raisonnement juridique repose largement sur des structures répétitives (citations, arguments, références) que ces systèmes reproduisent très bien.

Ils peuvent ainsi générer des contenus qui paraissent parfaitement crédibles sur la forme, en imitant fidèlement les codes du langage juridique, mais qui s'avèrent trompeurs ou erronés sur le fond.

"Il y a des affaires où les avocats gagnent quand même", malgré deux ou trois hallucinations, "parce qu'ils avaient raison sur le fond", observe M. Charlotin.

Mais ces cas entraînent de nombreux effets négatifs, a averti en janvier la juge Linda Kevins de la Cour suprême de l'État de New York : ils incluent une perte de temps et d'argent pour les parties adverses et les tribunaux, et peuvent "porter potentiellement atteinte à la réputation des juges et des juridictions dont les noms sont faussement invoqués comme auteurs de décisions fictives".

- "Qu'ils arrêtent" -

Les avocats et justiciables ayant soumis des documents contenant des hallucinations de l'IA rapportent avoir le plus souvent utilisé des chatbots grand public, en particulier ChatGPT d'OpenAI, selon la base de M. Charlotin.

Les outils d'IA juridiques spécialisés, utilisés par de nombreux cabinets d'avocats, apparaissent moins souvent comme sources d'erreur.

"Personne d'entre nous ne connaît toutes les affaires qui existent. La seule façon de savoir si (un précédent juridique cité par un chatbot) existe, c'est de le vérifier", souligne M. Charlotin.

Mais certains avocats ne le font pas, faute de comprendre les limites de la technologie, selon le juge Scott Schlegel, membre du groupe de travail de l'American Bar Association sur le droit et l'intelligence artificielle.

"Qu'ils arrêtent. Qu'ils fassent simplement leur travail et lisent les décisions. Franchement!", a asséné M. Schlegel interrogé par l'AFP.

Pour pousser les avocats à certifier que les décisions de justice qu'ils citent existent réellement, une nouvelle règle de la Cour suprême de Floride, prévue pour entrer en vigueur lundi, autorisera les juridictions inférieures à sanctionner les auteurs de plaidoyers invoquant de faux précédents.

H.Nakamura--JT