The Japan Times - Apprendre à désapprendre, un défi pour l'IA

EUR -
AED 4.033141
AFN 70.834935
ALL 90.226994
AMD 394.187676
ANG 1.966222
AOA 1007.050323
ARS 1718.558814
AUD 1.64633
AWG 1.976762
AZN 1.856167
BAM 1.959227
BBD 2.217859
BDT 136.959555
BGN 1.947627
BHD 0.415523
BIF 3307.540013
BMD 1.098201
BND 1.419964
BOB 12.944641
BRL 6.518259
BSD 1.101116
BTN 102.675186
BWP 15.554064
BYN 3.292935
BYR 21524.736732
BZD 2.214653
CAD 1.57309
CDF 2503.898376
CHF 0.92496
CLF 0.028323
CLP 1114.706703
CNY 7.32132
CNH 7.325625
COP 3767.465885
CRC 492.957739
CUC 1.098201
CUP 26.427382
CVE 110.457698
CZK 24.4339
DJF 196.091196
DKK 7.474136
DOP 66.285336
DZD 150.593453
EGP 59.099021
ERN 16.473013
ETB 180.736479
FJD 2.517739
FKP 0.837439
GBP 0.837691
GEL 2.849865
GGP 0.837439
GHS 12.944582
GIP 0.837439
GMD 81.266692
GNF 9761.89667
GTQ 8.418687
GYD 230.312838
HKD 8.60951
HNL 29.600504
HRK 7.50287
HTG 144.366595
HUF 373.618294
IDR 20061.933195
ILS 3.646792
IMP 0.837439
INR 102.147611
IQD 1669.366672
IRR 2127560.427059
ISK 137.198361
JEP 0.837439
JMD 174.275617
JOD 0.778645
JPY 174.828631
KES 142.831605
KGS 96.037702
KHR 4480.735214
KMF 493.092031
KPW 988.381153
KRW 1467.899261
KWD 0.342177
KYD 0.917705
KZT 495.767142
LAK 24811.397402
LBP 98614.185223
LKR 366.531096
LRD 184.991039
LSL 18.970982
LTL 3.242702
LVL 0.664291
LYD 7.1264
MAD 10.951155
MDL 20.206343
MGA 4971.6506
MKD 61.569716
MMK 2306.010052
MNT 3961.387418
MOP 8.897779
MRU 44.917133
MUR 51.374007
MVR 16.922997
MWK 1909.422367
MXN 20.984421
MYR 4.516022
MZN 70.18622
NAD 18.970376
NGN 1485.360768
NIO 40.520135
NOK 10.718329
NPR 164.280846
NZD 1.996156
OMR 0.422256
PAB 1.101226
PEN 3.757472
PGK 4.953619
PHP 70.096512
PKR 304.389834
PLN 4.438977
PYG 6904.012883
QAR 4.002983
RON 5.34901
RSD 117.628893
RUB 89.827515
RWF 1629.735717
SAR 4.120148
SBD 8.929052
SCR 15.353922
SDG 660.558526
SEK 11.179531
SGD 1.416745
SHP 0.835261
SLE 25.062385
SLL 23028.726825
SOS 629.303575
SRD 41.028588
STD 22730.540412
STN 24.54304
SVC 9.634852
SYP 14278.807869
SZL 18.966001
THB 37.285567
TJS 10.130681
TMT 3.854685
TND 3.336621
TOP 2.644205
TRY 55.544362
TTD 7.471831
TWD 36.199448
TZS 2919.021141
UAH 49.605413
UGX 4663.135019
USD 1.098201
UYU 44.69757
UZS 13192.074143
VES 1007.728596
VND 28308.872505
VUV 133.051632
WST 3.100531
XAF 655.957
XAG 0.026097
XAU 0.000308757017
XCD 2.967943
XCG 1.984508
XDR 0.776485
XOF 655.957
XPF 119.331742
YER 259.779317
ZAR 19.231117
ZMK 9885.156731
ZMW 22.629375
ZWL 353.620227
SSP 6350.50592
MXV 2.352287
  • AEX

    -1.6800

    1118.52

    -0.15%

  • BEL20

    -9.6000

    5637.54

    -0.17%

  • PX1

    -36.9600

    7998.54

    -0.46%

  • ISEQ

    13.0500

    14517.8

    +0.09%

  • OSEBX

    -1.6600

    2073.83

    -0.08%

  • PSI20

    72.5000

    9738.69

    +0.75%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    9.8600

    4491.39

    +0.22%

  • N150

    -2.9600

    4224.74

    -0.07%

Apprendre à désapprendre, un défi pour l'IA
Apprendre à désapprendre, un défi pour l'IA / Photo: - - OVHcloud/AFP/Archives

Apprendre à désapprendre, un défi pour l'IA

Quand Brian Hood a découvert que ChatGPT lui attribuait un passé criminel, ce politicien australien s'est retrouvé face à un casse-tête que des ingénieurs tentent désormais de résoudre: comment apprendre à l'intelligence artificielle (IA) à effacer des erreurs ?

Taille du texte:

Ni la solution légale — en avril, Brian Hood a menacé de porter plainte pour diffamation contre la société OpenAI, à l'origine de ChatGPT — ni le reparamétrage complet des IA ne semble une solution satisfaisante: entraîner à nouveau le modèle s'avérerait particulièrement long et coûteux.

Or, les spécialistes considèrent que le problème du désapprentissage de l'IA sera crucial dans les prochaines années, au regard notamment de la règlementation européenne sur la protection des données (RGPD).

"La capacité à effacer des données au sein de bases d'apprentissage est un sujet majeur", confirme Lisa Given, professeur en sciences de l'information à l'université RMIT de Melbourne. Mais au regard du manque actuel de connaissances sur le fonctionnement des IA, le chemin est encore long, selon elle.

Devant la somme colossale de données sur lesquelles les IA sont entraînées, les ingénieurs cherchent plutôt une solution ciblée afin d'écarter des informations fausses de leur champ de connaissance et d'en arrêter la propagation.

Le sujet a pris de l'ampleur depuis trois à quatre ans, a confirmé à l'AFP le chercheur Meghdad Kurmanji, de l'université britannique de Warwick, expert du domaine.

Google DeepMind, spécialisée dans l'IA, s'est emparée du problème: des experts de la firme américaine ont publié le mois dernier, avec M. Kurmanji, un algorithme destiné à effacer des données au sein d'importants modèles de langage, comme ceux de ChatGPT ou de Bard, le modèle de Google.

- Correction de certains biais -

Et, entre juillet et septembre, plus de 1.000 participants se sont attelés à peaufiner des méthodes de "désapprentissage" des IA dans le cadre d'un concours lancé par l'entreprise américaine.

La méthode employée, commune aux autres recherches en la matière, consiste à introduire un algorithme ordonnant à l'IA de ne pas tenir compte de certaines informations apprises et n'implique pas de modifier la base de données.

Meghdad Kurmanji assure que ce procédé peut être "un outil très intéressant" pour permettre, par exemple, à des outils de recherche de répondre à des demandes de suppression, en conformité avec la protection des données personnelles.

L'algorithme mis au point s'est également montré performant dans la suppression de contenus protégés par des droits d'auteur ou dans la correction de certains biais, assure-t-il.

D'autres, comme le responsable de l'IA au sein de Meta (Facebook, Instagram) Yann LeCun, se montrent plus réticents.

"Je ne dis pas que c'est inutile, sans intérêt ou mauvais, mais je pense qu'il y a d'autres priorités", affirme-t-il à propos de cet algorithme auprès de l'AFP.

Pour Michael Rovatsos, professeur en intelligence artificielle à l'université d'Édimbourg, "la solution technique n'est pas la panacée".

Le "désapprentissage" ne permettrait pas, selon lui, de poser des questions plus larges, comme celle de savoir comment les données sont rassemblées, qui en tire profit ou encore à qui doit incomber la responsabilité des dommages engendrés par l'IA.

Si Brian Hood a vu son problème réglé, sans explication, une fois que son affaire a été suffisamment médiatisée pour corriger automatiquement les données traitées par ChatGPT (qui n'a pas répondu aux sollicitations de l'AFP), il considère que l'heure est encore aux méthodes artisanales.

"Il faut que les utilisateurs vérifient tout, dans les cas où les chatbots écrivent des âneries", affirme l'Australien.

S.Yamada--JT